何が起きたか

Anthropic（Claudeを作るAI会社）が、米国の議員にAI安全法案の草案を示していたと報じられました。TechCrunchは、政府がAIモデルの公開や利用を止められる条件を、この草案がかなり狭く定めていると伝えています。

報道された条件は、モデルが「近い将来に起きると予想される大きな危険」を生む場合です。予想される被害が10億ドルを超えるか、50人を超える死者や重傷者が出ると判断される必要があります。危険の原因も、生物兵器、開発者の管理から逃れるモデル、サイバー攻撃などに限られるとされています。

草案の仕組み

草案では、商務省に登録した外部の評価者が、AI会社とモデルを定期的に調べます。大きな危険を見つけたら、商務省に報告します。商務省は、ワシントンの連邦裁判所にモデルの停止を求め、裁判官が最終判断をします。

つまり、会社だけでなく、外部評価者、商務省、裁判所が順番に関わります。一方、ほかの連邦機関が独自に停止を命じる道は、草案で狭められていると報じられました。

なぜ重要か

この話の中心は、AIを規制するかどうかだけではありません。誰が、いつ、どんな証拠で止めるかです。Anthropicの考えでは、基準を明確にし、裁判官の判断を通せば、政府が急にモデルを止める不安を減らせます。同社の広報担当者は、こうした政策を「筋の通ったもの」と説明しています。

しかし、被害が始まる前に人数や金額を正確に予測するのは簡単ではありません。49人なら危険でない、という意味ではありません。それでも基準に届かない危険を、ほかの役所が止められないなら、対応が遅れる心配があります。

確認できたこと

Anthropicの広報担当者は、この草案が同社の「Advanced AI Framework」に沿い、6月から連邦と州の議員に働きかけてきた提案だと説明しました。50人と10億ドルという数字は、カリフォルニア州のAI法にも似た基準があります。米国の政策議論で、似た考え方が出ていることは確認できます。

ただし、今回の案はAnthropicが望む制度案です。米国政府が採用したルールではありません。

まだ分からないこと

草案の全文は公表されていません。米議会が正式な法案として提出するかも決まっていません。「近い将来の危険」を誰が判定するのか、死者数や損害額をどう計算するのかも不明です。評価者を会社が費用面で支える場合、独立性をどう守るかも論点になります。

次に見る点

今後は、正式な法案、評価者の権限、商務省と裁判所の役割、州法との関係を見ます。AI会社が自分たちのルールを先に提案する流れが広がるなら、安全の数字だけでなく、監視する人を誰が監視するのかも問われます。