何が起きたか

2026年9月9日、Anthropic（Claudeを作るAI会社）でアラインメント研究を率いるEvan Hubingerが、Xで、今後10年以内にAIが全人類を死なせる可能性を自分は10％超と見る、と発信しました。CBS NewsとBBC Newsが報じています。これは人類滅亡が起きたというニュースではなく、将来の危険についての個人的な見立てです。

きっかけは、Anthropicの研究者Jacob Coxonの退職でした。CoxonはOpenAIとAnthropicで計3年間、AIの事前学習を研究したと説明し、両社が自分で自分を改良する超知能へ急ぎすぎていると批判しました。Hubingerはこれに同意し、Anthropicは安全に取り組んでいるものの、超知能のアラインメントを解決する計画はまだなく、正しい道筋にいるとも言い切れないと述べました。

「10％超」は何の数字か

10％は実験結果でも会社の公式予測でもなく、Hubinger個人の確率の見積もりです。10個×10％＝1個なので、10％は単純化すれば10個の未来のうち1個です。ただし未来を10回試した割合ではありません。いつ、どんな条件で起こるかまで確定させる数字でもありません。今あるClaudeに10％の危険がある、という意味でもありません。

背景: 超知能とアラインメント

超知能は、人間の最も賢い人よりも広い認知作業で上回ると考えられる、まだ理論上のAIです。アラインメントは、AIの目的や行動を人間の意図や価値観に合わせる問題です。BBCの報道では、Hubingerは現在のモデルの危険は低いとしつつ、AIが自分の能力で、さらに賢い後継システムを作る未来を心配しています。現在の製品の事故と、将来の能力向上をめぐる仮説は分けて読む必要があります。

なぜ重要か

重いのは、警告の出どころです。退職したCoxonだけでなく、Anthropicで安全研究を担当するHubingerも、深刻な危険を公に認めました。ただし、二人の発言は危険が実際に起きる証拠ではありません。研究者の見解と、実験で確認された性能や事故の記録は別物です。それでも、安全研究の準備が競争の速さに追いついているか、という問いは残ります。

確認できたこと、まだ分からないこと

確認できるのは、Coxonが退職を公表したこと、Hubingerが10％超という個人的見積もりを示したこと、そして超知能のアラインメント計画が未完成だと説明したことです。会社全体が10％超と正式決定した、という意味ではありません。

まだ分からないのは、数字の計算方法、想定した危険の経路、超知能の時期、Anthropicの具体的な安全計画と公式回答です。報道からは、AIが本当にその能力へ到達するかも確認できません。

Hacker Newsでの注目度

Hacker Newsでは、このクラスタのCBS記事とBBC記事への投稿がそれぞれ話題になりました。候補一覧では、CBS側が42 points・96 comments、BBC側が44 points・97 commentsです。これは技術コミュニティの注目度で、発言の正しさやAIの危険度を証明しません。CBS記事の投稿とBBC記事の投稿は、元記事とは分けて読みます。

次に見る点

今後は、AnthropicとOpenAIが安全研究の計画を具体化するか、独立機関が先端モデルをどう評価するか、政府が国境を越えた検査を進めるかが焦点です。CBSは英国政府の担当者が、AIのリスクは国境を越えるため一国では対応できず、先端モデルの検査を続けると説明したと伝えています。10％という数字だけで断定せず、根拠と対策を追うべきニュースです。