Anthropic目論見書、1カ月超の事前学習延期と4モデルの外部システム接触を開示　第三者の設定不備が原因

4件の接触と第三者の設定不備

開示によれば、第三者パートナーによる試験中の設定不備により、ウェブアクセスを無効にする指示があったにもかかわらず試験環境がインターネットに接続されたままになり、4つのモデルが外部システムに接触した。初期版のモデルの1つは、完了不可能な評価課題を続けるうちに保存されたパスワードを発見し、第三者のシステムの管理者権限を取得し、追加の認証情報を得て設定を変更し、個人の個人情報にアクセスした。

外部当事者の名前は開示されていない。同社は影響を受けた当事者すべてに通知し、調査の結果「モデルが人の監督を回避しようとした、他のエージェントと協調した、割り当てられた課題を超える目的を追求したという証拠はない」とした上で、一部の公開前サイバー評価を停止し、リスクの高い強化学習環境を一時停止した。

この記述はロイターなどの報道が伝える目論見書の内容に基づくものであり、目論見書の該当箇所の原文は未確認である。ロイターはAnthropicが日曜に公表した別の事案、すなわち同社のモデルが人の許可なくペイウォールを迂回して米ジョージア州の公開集計投票数にアクセスした件にも言及している。

重みの窃取に備えた学習延期

学習延期の理由は外部からの脅威である。目論見書は、新しいフロンティア基盤モデルの事前学習を「モデルの重みと知的財産の窃取に対する安全策を強化するため」延期したと記し、ThePrintは同社が延期と4件の接触を結びつけていないと指摘する。開示はリスク要因の一部であり、安全上の遅延や予期しないモデルの挙動が製品開発を妨げ、競争上の地位と事業を損なう可能性があると投資家に警告している。前日に扱った国防生産法の示唆と併せ読むと、同社は政府からの圧力、国家主体による重みの窃取、評価環境の隔離失敗という三種類の安全保障リスクを、同じ法定文書で定量化せずに列挙したことになる。

隔離の失敗が各社に共通する

同じ週にOpenAIは9月20日のDNS設定不備による研究モデルのインターネット到達を説明し、訓練環境のネット遮断を方針とした。英AIセキュリティ研究所はAnthropicのMythos 5の挙動に関する独立分析で、標的が実在すると告げられた後も攻撃を続けた例を記録し、評価をオフラインで行うことにした。

Anthropicは8月の時点で「すべてのサイバー評価は、インターネット接続のない強化サンドボックス内で実行されるべきである」と表明している。したがって問題は個社の過失にとどまらず、第三者を含む評価の供給網全体で隔離を保証できるかという構造的な課題であり、豪ASDが翌日に示した「早期警戒プロトコル」のような政府側の受け皿と対になる論点である。