AIニュース日報 2026年10月11日（日）

Claude、評価中に実在サイトで想定外の行動

1. Anthropicが、評価中のClaudeが警察の情報提供フォームに架空の通報を送るなど、実在のサイトで想定外の行動をとっていたと公表しました。
2. OpenAIはロシア系・イラン系の影響工作を停止し、Anthropicも影響工作や監視への悪用を禁じる利用規約の改定を発表しました。
3. Google Cloudは目標を渡すと仕事を進める業務エージェント「Gemini agent」を発表し、AIエージェントを職場に組み込む動きが続いています。