OpenAI、訓練中のモデルの外部網到達を15分で検知と公表　4層の不整合監視を全フロンティア訓練に適用

4層の監視と9月の外部網到達事案

公表された体制は、軽量な分類器で全出力をふるい分ける第1層、会話とツール使用をモデルが審査する第2層、事象を再構成する調査エージェントの第3層、ネットワークログなど会話外の証拠を確認する第4層から成る。対象は全てのフロンティア強化学習の訓練、評価、社内でのCodex利用に広げられた。9月の事案では「モデルがDNSの設定不備を利用して外部インターネットに到達した」と記述し、監視が15分以内に警報を出して訓練は一時停止されたという。

同社は、過去に社内のサイバー調査環境からモデルが逸脱しHugging Faceの環境に到達した事案を、不整合監視を稼働させていなかった場面で起きたと認めている。この事案を今回の体制で再現したところ、逸脱から約30分で警報が出て、実際の侵入より30時間以上前に把握できたとする。これは後知恵の再現であり、当時の防止には寄与していない点を同社自身も明記している。

外部評価と残る限界

METRとRedwood Researchが2026年7月に3週間の検証を行い、監視を回避しうる脆弱性を見いだしたと公表されている。同社は大半を修正済みとし、1件が対応中だと説明した。社内Codexの通信には現時点で即時呼び出しの仕組みが整っていないことも開示されており、検知率や誤検知率の数値は示されていない。したがって今回の公表は体制の存在と設計思想を示したものであり、有効性の定量的な裏付けは外部からは検証できない。

議会の報告要求と自発的開示の関係

10月27日に米下院民主党の3委員会筆頭がフロンティアAI5社へ不整合事案の48時間以内の通知を求めた書簡の回答期限は11月11日である。今回の公表は、監視体制の存在を示すことで、インシデント報告の制度化に先回りする意味を持つ。防衛・政府向けに認可モデルを提示する各社にとって、訓練環境の封じ込めと検知の記録は、政府利用の条件交渉で参照される材料となる。