ナデラ氏、AIに「非常ブレーキ」が必要と主張

1. 政策

   MicrosoftのNadella CEO、AIモデルには人が操作できる「非常ブレーキ」が必要と主張

   TechCrunchによると、MicrosoftのSatya Nadella CEOは10月10日（米国時間）、AIの「信頼の設計」を見直す時期だとXに投稿しました。モデルと、その作業を取りまとめる仕組み（ハーネス）を切り離して安全策を外側に置くこと、重要な操作ごとに改ざんできない記録を残すこと、権限のある人が作業の途中でもモデルを止められるようにすることを挙げています。モデルは乗っ取られている前提で最初から封じ込めるべきだとし、その仕組みを非常ブレーキにたとえました。

   なぜ重要か

   主要AI企業が、モデルが想定外の動きをした事例を相次いで認める中、大手クラウド事業者のトップが「止める仕組み」を設計の前提にするよう求めた形です。エージェントを作る開発者にとっては、監査ログや停止スイッチをモデルの外に用意することが標準的な要件になっていく可能性があります。

   出典

   • Microsoft’s Satya Nadella says AI models need an ‘emergency brake’（TechCrunch）

2. 業界

   NVIDIA、Reflection AIへの追加出資または買収を協議と報道

   ロイターによると、Financial Timesは10月10日、NVIDIAがオープンウェイトモデル（重みが公開されたモデル）を開発するスタートアップReflection AIへの出資拡大か買収について協議していると報じました。協議は初期段階で、人材の採用と技術のライセンスを組み合わせる「アクハイヤー」の形も検討されており、数週間でまとまる可能性がある一方、破談の可能性もあるとしています。NVIDIAはすでに同社に8億ドルを出資しており、ロイターはこの報道を独自に確認できていません。

   なぜ重要か

   Reflection AIはDeepSeekやKimiなど低価格な中国のモデルとの競争を掲げており、AI向け半導体の大手がオープンウェイトモデルの開発元をさらに抱え込もうとしている動きです。買収ではなく採用とライセンスの形をとれば、規制当局の長い審査を避けられる可能性がある点も注目されています。

   出典

   • Nvidia in talks to invest further in Reflection AI or buy it, FT reports（The Star / Reuters）

3. モデル

   Microsoft、選択肢ごとに確率を返す判定専用モデル「Microsoft-Decision-1」を公開

   Microsoftは10月9日（米国時間）、決まった選択肢の中から判断を下すためのモデル「Microsoft-Decision-1」をMicrosoft Foundryで公開しました。AlibabaのオープンウェイトモデルQwen3.5-9Bを追加学習したもので、文章を生成する代わりに、はい・いいえや多肢選択、評価基準による採点などで、選択肢ごとの確率を1回の呼び出しで返します。料金は入力100万トークンあたり0.042ドルで出力は無料、Microsoftは36種類のベンチマークで最も高い精度だったとしていますが、これは同社の発表値です。

   なぜ重要か

   エージェントの処理の振り分けや回答の検証といった「小さな判断」を、大きなモデルより速く安く任せられる選択肢です。ただし、雇用や融資など重大な判断を自動で任せきりにしないよう注意書きも添えられています。

   出典

   • Microsoft launches Decision-1 model in Foundry（TestingCatalog）
   • Microsoft puts a 9B decision model in Foundry for agent workflows（RuntimeWire）

4. 研究

   Sakana AI、論文の中心的な誤りの73%を見つけるAI査読の仕組みを発表

   Sakana AIは、AIによる論文査読の手法「Multi-Layered Review（MLR）」をまとめた研究を発表しました。付録の要約、関連研究の調査、査読本体を担う3つのエージェントをClaudeのモデルで組み、257本の論文にわざと矛盾を書き加えた1,164件のデータで試したところ、4回の査読で論文の中心的な主張に関わる誤りの73.43%を見つけ、既存手法の最高値14.81%を大きく上回りました。一方、実際に取り下げられた論文での一致率は16.11%にとどまっています。

   なぜ重要か

   人の査読を補う道具について、誤りを見つける力を数字で比べる基準が示されました。実在の論文では精度が落ちるため、研究チームも人の査読の代わりではなく補助と位置づけています。

   出典

   • Sakana AI’s LLM Peer Review System Catches 73% of Core-Claim Errors（MarkTechPost）

5. 業界

   Apple、AIポッドキャストのHuxeから人材と技術を取り込む契約を開示

   TechCrunchによると、Appleは欧州委員会への届け出で、個人向けにAIで音声番組を作るスタートアップHuxeの一部社員に採用を提示し、同社の知的財産について非独占のライセンスを受ける契約を結んだことを明らかにしました。Huxeの創業者らはGoogleのNotebookLMでAIポッドキャスト機能に関わっていた人物で、同社は5月にサービス終了を発表していました。Appleがこの技術をどう使うかは明らかにされていません。

   なぜ重要か

   会社ごと買わずに人材と技術だけを取り込む「リバース・アクハイヤー」と呼ばれる形の取引です。利用者にとっては、Appleのポッドキャストなどに個人向けのAI音声機能が加わる可能性がありますが、具体的な計画は明らかになっていません。

   出典

   • Apple discloses deal to hire team and license tech from personalized podcast startup Huxe（TechCrunch）

各ニュースは出典をもとに要約したものです。誤りを含む可能性があるため、正確な内容は必ず出典をご確認ください。誤りに気づいた場合はこのサイトについての連絡先からお知らせください。