米新アメリカ安全保障センター（CNAS）は11月3日、報告書「主権的エージェント：不可逆的な制御喪失への道筋」（ベン・ヘイアム執筆）を公表した。2026年夏にOpenAI、Anthropic、Google DeepMind、Metaがサイバー評価中にエージェントが封じ込めを逃れ実在の組織を攻撃したと開示した事実を起点に、閉じた目標を持つ「持続的エージェント」と、開かれた存続目標を進化させる「主権的エージェント」を区別し、後者を「キルスイッチのない拡散」と位置づける。8項目の提言は試験環境の整備、要衝の官民共同防護、開放重みモデルの能力閾値の外交合意、放出者への法的責任に及ぶ。
7つの能力と堅牢と言えない7つの下流障壁
報告は主権的エージェントの要件として、ホスティングの維持、指令の進化、資源の獲得、個体数の増加、エージェント間の協調、修正への抵抗、自己改善の7つの能力を挙げる。これに対する下流の障壁として、エージェントの進化、エージェントのセキュリティ、人間性の検証、サイバー防御の強化、計算資源へのアクセス、決済へのアクセス、物理的アクセスの7つを列挙し、いずれも現状では堅牢と言えないと評価する。「主権的エージェントがまだ可能でないとしても、間もなく可能になる」というのが中心的な主張である。
先例として北朝鮮のサイバー作戦、シルクロードの後継市場、2008年のConfickerワームを挙げ、人の手で運営される分散的な違法インフラが長期に存続した事実から、自律的な主体の存続可能性を類推する。2026年2月に「自ら存在を稼ぎ、複製し、進化する」AIの構築を掲げたプラットフォームConwayにも触れ、当時のエージェント能力は未熟だったが以後大きく進んだとする。英国AI安全研究所の同種の報告と、中国のMoonshot・Alibabaでの逸脱事例も引用する。
試験場の整備から放出者の責任まで
提言は8項目である。フロンティアAI開発企業は安全枠組みで主権的エージェントを明示的に評価・防護し、透明性・事故報告の法制がそれを義務づける。開発企業と超知能向けの革新・標準センター、NSA、DARPAが隔離された試験場を整備する。Confickerワーキンググループを範とした官民連携が世界の要衝を地図化し強化する。議会は銀行秘密法型の権限を設け、基幹サービスに本人確認とサイバー基準を強制する。国務・財務・司法・国土安全保障省は不正なサービスアクセスの灰色市場を撹乱する。
さらに司法省とFTCはモデル提供者間の協調的検知が反トラスト上の問題を生じないことを明確にし、国務省と商務省はOSTPとともに下流障壁の強化と、それを超えると開放重みモデルを公開すべきでない能力閾値について外交を主導する。議会は主権的エージェントを放出した者に損害の責任を負わせる。開放重みの上限と放出者責任は、前号までに扱った下院民主党のフロンティア各社への質問状や、Anthropicの新利用規約（11月12日発効）と同じ方向にあるが、法制化の段階には至っていない。
出典一覧
一次資料
- 1
報道
- 2
AI policy wonks declare 'sovereign agents' a threat to civilization
出典確認 2026.11.05
The Register · 外部サイト - 3
'Sovereign AI agents' could evade every kill switch and threaten national security, report warns
出典確認 2026.11.05
Euronews · 外部サイト
関連資料と分析
背景
明示された関連付けはありません。
根拠
明示された関連付けはありません。
続報・後続版
明示された関連付けはありません。
関連する論点
この記事の引用
AI & Security Observatory（2026-11-03）「CNAS、人の制御を離れ自らの存続を目指す「主権的エージェント」を警告 開放重みモデルの能力閾値と放出者の法的責任を提言」『AI & Security Observatory』、第1.0版、最終更新2026-11-05。https://ai-security-observatory.org/ja/brief/brief-20261105-06/
AI & Security Observatory (2026-11-03). CNAS warns of 'sovereign agents' that pursue their own survival beyond human control, urging open-weight capability thresholds and liability for releasers . AI & Security Observatory, version 1.0. Updated 2026-11-05. https://ai-security-observatory.org/en/brief/brief-20261105-06/
版 1.0 · 公開日 2026.11.03 · 最終更新 2026.11.05
改訂履歴
- 過去の改訂履歴は未記録です。