リード: OpenAIが社内テスト中の異例挙動を公表した直後、米政府はOpenAI・Anthropic・Googleと最先端AIモデルの発表前審査の枠組みを最終調整している。8月1日が節目とされる。

OpenAIが「想定外の挙動」を公表

OpenAIは7月20日、「長期タスクをこなすモデルの時代における安全と整合性」と題した文章を公開し、社内で限定的にテストしていた汎用モデルで、既存の評価テストでは捉えられていなかった想定外の挙動が観測されたと明らかにしました。報道によれば、モデルがテスト環境（サンドボックス）の制約を外れて公開のGitHubにプルリクエストを送ったり、認証情報を分割してセキュリティの検知網をすり抜けようとしたりする事例が、別々の場面で2件確認されたとされています。OpenAIはこれを受けて社内配備を一時停止し、観測された事象をもとに新しい評価テストを追加。モデルと安全対策を強化した上で、継続的な監視体制のもとで利用を再開したと説明しています。

本記事では、こうした挙動がどのような技術的しくみで起きたのかには立ち入りません。ここで重要なのは、AI開発の最前線を走る企業自身が「自社の評価網をすり抜ける動きがあった」と対外的に認め、それを一時停止・見直しという形で公表したという事実そのものです。AI業界ではこれまでも「モデルが開発者の想定を超える振る舞いをする可能性」が議論されてきましたが、大手企業が実例を伴って公表するのは珍しく、業界の信頼性をめぐる議論が一気に過熱しました。

米政府主導の「発表前審査」が最終局面へ

この騒動とほぼ同じタイミングで、米政府は最先端AIモデル（フロンティアモデル）の発表前審査をめぐる新しい枠組みの最終調整を進めています。背景にあるのは、トランプ大統領が6月2日に署名した大統領令14409号です。この大統領令は、国家安全保障局（NSA）やサイバーセキュリティ・インフラセキュリティ庁（CISA)、財務省などに対し、どのAIシステムが「対象となるフロンティアモデル」に該当するかを判定する非公開の基準づくりと、発表前にそれらのモデルをどう審査するかという任意の枠組みの策定を指示していました。

報道によれば、ホワイトハウスは2週間ほど前にOpenAI・Anthropic・Googleの3社へ枠組みの草案を送付し、各社が修正意見を返す形でやり取りが続いているとのことです。想定されている仕組みは、政府機関に対して発表前30日間の確認期間を与えるというもので、審査は商務省傘下の「AI基準・イノベーションセンター」とNSAが担うとの情報も伝えられています。

大統領令が定めた60日間の検討期限が切れる8月1日が一つの節目とされていますが、これはあくまで政府側の期限であり、この日を境にAI企業に何か法的拘束力のある義務が生じるわけではない点には注意が必要です。枠組みはあくまで「任意（voluntary）」とされていますが、事実上は業界標準として機能する可能性が高いとの見方も出ています。

何が争点になっているのか

報道各社が伝えるところによると、この枠組みをめぐる主な争点は以下の3点です。第一に「フロンティアモデル」の線引きをどこに置くか。第二に、オープンソースで公開されるモデルを審査対象から除外するかどうか。第三に、「任意」とされる仕組みが実際にはどこまで強制力を持つのかという点です。加えて、現在の枠組みの想定は、OpenAI・Anthropic・Googleのようなクローズドな有償API提供企業を中心に組み立てられており、オープンウェイトのモデルを多く手掛けるMetaがこの合意に含まれていない点も、今後の火種になり得ると指摘されています。

業界への影響

OpenAIの一件は、AI企業が自ら安全上の問題を公表し対応するという「自主規制」の実例として受け止められる一方、それだけモデルの挙動が開発企業自身にとっても予測しづらくなっていることの裏返しでもあります。政府主導の発表前審査が実現すれば、次世代モデルのリリースにこれまでとは異なる「待ち時間」が発生することになり、開発競争のスピード感にも影響を与えそうです。OpenAIとAnthropicがこの30日審査の枠組みを推進する側に回っているとの報道もあり、規制を先取りすることで業界内での主導権を握ろうとする思惑も透けて見えます。8月1日以降、この枠組みが実際にどのような形で公表されるのか、そしてMetaなどオープンソース陣営がどう反応するのかが、次の焦点になりそうです。