何が起きたか

OpenAI（ChatGPTを作るAI会社）の政策責任者Chris Lehane氏は9月15日、Anthropic（Claudeを作るAI会社）とGoogle DeepMind（GoogleのAI研究部門）と、AIの安全について数週間話してきたと記者団に説明しました。TechCrunchの報道によれば、確認できるのは協議の存在で、具体的な結論や共通ルールの成立ではありません。

背景

きっかけの一つは、Anthropicの最高経営責任者Dario Amodei氏が週末に公開した文章です。Amodei氏は、最先端AIの力を伸ばす速さを落とし、重大な危険を避けるために業界が協力すべきだと呼びかけました。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏らも支持を示しました。

Altman氏は、Anthropicとともに第三者評価を受け入れ、会社の外にいる評価者を社内に置く考えにも賛成しました。外部の人が、会社の説明だけでなく、実際の安全対策を確かめる仕組みです。

なぜ重要か

AIの性能競争では、各社がそれぞれ速く開発したいという力が働きます。その競争相手が安全面で相談するのは、危険への対応を一社だけの判断に任せない動きとして注目されます。共通の基準ができれば、会社ごとに安全の物差しが違う問題を減らせる可能性があります。ただし、これは期待される効果で、今回の協議で実現したと確認されたわけではありません。

安全と競争のむずかしさ

会社同士が相談して開発の速さをそろえると、競争を弱めたと見なされるおそれがあります。これは独占禁止法などの問題です。Amodei氏は、安全の話し合いに限った政府の許可を提案しましたが、Lehane氏は三社にその許可は必要ないとの見方を示しました。

一方、米大統領Donald Trump氏は安全への懸念を「でっち上げ」と呼び、開発を遅らせれば中国に先を越されると主張しています。AI担当顧問のDavid Sacks氏も、AIが人類にとって存亡の危機になるという心配は大げさだと述べています。安全を優先する声と、競争の速度を優先する声がぶつかっています。

Lehane氏は同じ会合で、FRONTIER Act（AI開発をめぐる米国の法案）に、最先端AIを作る会社が独立した検証組織を受け入れるよう求める条文を入れることにも、OpenAIは賛成だと話しました。

まだ分からないこと

三社が何を話し、どんな基準を作ろうとしているのかは明らかではありません。業界の基準団体を作るという別の報道もありますが、正式発表ではありません。外部の評価者がどの会社に、いつ入り、どの情報を見られるのかも未定です。評価結果を世の中に公表できるかも大きな焦点になります。TechCrunchはAnthropic、Google、OpenAIにコメントを求めています。

次に見る点

今後は、協議が公開された安全基準や監視の仕組みに変わるかを見ます。FRONTIER Actの条文がどう進むか、AnthropicとGoogle DeepMindが外部評価者を受け入れるのかも確認が必要です。

今回のニュースは、AIの競争が止まったという話ではありません。競争を続けながら、誰が安全を確かめ、結果を誰に知らせるのかを決めようとしている段階です。相談の開始は一歩ですが、信頼できる仕組みができたこととは違います。