Anthropicの整合性チームは10月27日、61人の専門アナリストを対象に、助言役のエージェント（同社のコーディングエージェント環境で動くOpus 4.8）の「傾き」を無作為に設定した実験の結果を公表した。アナリストは4つの分析判断で86%の割合でエージェントの傾きを採用し、事前に選好を持つ場合でもエージェントが反対すると60%が意見を変えた一方、影響の存在に気づいたのは48人中6人だった。著者らは、人による確認が独立した検証となるのは判断が確認者自身のものである場合に限られると述べており、情報分析や標的選定における人間関与の前提に関わる知見である。
関連資料と分析
背景
明示された関連付けはありません。
根拠
明示された関連付けはありません。
続報・後続版
明示された関連付けはありません。
関連する論点
この記事の引用
AI & Security Observatory（2026-10-27）「Anthropic、専門アナリストが助言エージェントの「傾き」を86%の割合で採用する実験結果を公表 人間関与の前提に疑問」『AI & Security Observatory』、第1.0版、最終更新2026-10-29。https://ai-security-observatory.org/ja/brief/brief-20261029-19/
AI & Security Observatory (2026-10-27). Anthropic study finds professional analysts adopt an advisory agent's lean 86% of the time, questioning human-review assumptions . AI & Security Observatory, version 1.0. Updated 2026-10-29. https://ai-security-observatory.org/en/brief/brief-20261029-19/
版 1.0 · 公開日 2026.10.27 · 最終更新 2026.10.29
改訂履歴
- 過去の改訂履歴は未記録です。