AIの安全を一人のCEOに預けない 元OpenAI取締役が語った信頼の限界
CSET(シーセット)
ジョージタウン大学にある、AIや新しい技術の安全を調べる研究機関。
AGI(エージーアイ)
一つの仕事だけでなく、いろいろな仕事をこなすAIを指す言葉。
AIガバナンス(エーアイ・ガバナンス)
AIを誰がどう見守り、ルールを決めるかという仕組み。
何が起きたか
2026年11月14日、The Vergeはヘレン・トナー氏へのインタビューを公開しました。トナー氏はジョージタウン大学のCSETで、AIの安全や政策を調べる責任者です。以前はOpenAIの取締役を務め、2023年にサム・アルトマン氏をCEOから外した取締役会の一員でした。
今回の中心的な主張は、AIの安全を一人の経営者の人柄や約束に預けてはいけない、というものです。トナー氏は、AIのCEOが全員悪いと言ったのではありません。未来を一人の人物が信頼できるかどうかだけにかける仕組みが危うい、と説明しました。
背景:AIの「大きさ」をどう考えるか
インタビューではAGIも話題になりました。AGIは、一つの作業だけでなく、さまざまな仕事をこなすAIを指す言葉です。ただし、どこまでできればAGIなのかは人によって違います。いろいろな仕事ができるAIをAGIと呼ぶ人もいれば、人間ができるほぼすべてのことをできるAIだと考える人もいます。
トナー氏は、定義がぼんやりした言葉だけで議論すると、具体的な確認を忘れやすいと見ています。重要なのは、AIが何をできるのか、誰が使えるのか、どんな確認を経て公開されるのかです。
二つの危険を分けて考える
トナー氏は、AIを人が悪用する問題と、AI自身が予想外の行動をする問題を分けました。前者では、利用者へのルールや法執行などが関係します。後者では、AIに長い仕事を任せたり、広い権限を与えたりする前に、その動きを十分に確かめなければなりません。
防御のためにAIを使う場合でも、AIに多くの権限を渡す必要が出ます。そのため、AIが安全だとどう確かめるのかが難しくなります。これは単なる利用規約の問題ではなく、設計と監督の問題です。
個人への信頼だけでは足りない理由
トナー氏が求めるのは、より多くの人と異なる視点が関わる仕組みです。経営者が誠実でも、判断を一人に集めれば、外から確認できる情報は限られます。取締役会や外部の人が、危険や失敗について知り、質問できる構造が必要になります。
この考え方はAIだけに限りません。しかしAI企業では、技術の進歩が速く、公開や訓練の判断が社会に大きな影響を与えます。だからこそ、個人の評判よりAIガバナンスが重要になります。
確認できたこと
今回確認できるのは、トナー氏が個人への依存を避け、複数の視点と安全の基準を求めていることです。特定のCEOが機密を漏らしたと新たに証明した記事ではありません。インタビューは監査報告でも、AIの安全性を決める最終判定でもありません。
トナー氏は、AGIが近いと断定していません。一方で、十分に起こりうる未来として真剣に備えるべきだと話しました。危険が必ず起こるという主張ではなく、起きてからでは遅い可能性を考えようという立場です。
まだ分からないこと、次に見る点
トナー氏は、どの組織を作ればよいかという完成した設計図までは示していません。次に見るべきなのは、AI企業がどんな安全の基準を置くのか、誰がその基準を確かめるのか、基準を満たさないときに開発や公開を止められるのかです。
彼女は以前、半年間の開発停止に疑問を持っていました。しかし今は、安全研究に取り組める時間が足りないと考えています。新しいAIを作る前と公開する前に、危険の評価と対策が十分かを確かめる。その基準を誰が決め、誰が監督するのかが、これからの焦点になります。
AIの会社の大物を、なぜ一人で信じてはいけないの?
📰 しっかり版: AIの安全を一人のCEOに預けない 元OpenAI取締役が語った信頼の限界
元OpenAI取締役のヘレン・トナー氏は、安全を人柄だけに任せない仕組みが必要だと話しました。
CEO(シーイーオー)
会社をまとめるトップ。
AGI(エージーアイ)
いろいろな仕事ができるAIを指す言葉。
取締役(とりしまりやく)
会社の大事な判断を見守る役目の人。
💡 ようするに
- AIの安全を一人のCEOに任せない。
- 人がAIを悪用する危険もある。
- AI自身が予想外に動く危険もある。
2026年11月14日、The Vergeはヘレン・トナー氏の話を紹介しました。トナー氏は、AIの安全を調べる人です。以前はOpenAI(ChatGPTを作るAI会社)の取締役でした。2023年には、サム・アルトマン氏をCEOから外した取締役会にいました。
彼女の大事な考えは、一人のCEOを信じるだけでは足りないということです。その人がよい人でも、すべてを一人で確かめることはできません。だから、多くの人が別々の目で見る仕組みが必要です。会社の外から質問できる人も大切です。
トナー氏は、AIの危険を二つに分けました。一つは、人がAIを悪いことに使う危険です。もう一つは、AIが人の考えと違う行動をする危険です。この二つは、同じ方法では防げません。
AIには、AGIという言葉もあります。これは、いろいろな仕事ができるAIを指します。ただし、どこまでできればAGIなのかは、人によって考えが違います。名前の議論だけでなく、何ができるのかを確かめることが重要です。
トナー氏は、以前は半年間の開発停止に疑問を持っていました。今は、安全を研究する時間がもっと必要だと考えています。新しいAIを作る前と公開する前に、安全を確かめる基準を置くべきだという考えです。
これは、すべてのAI会社のトップが悪いという話ではありません。大事なのは、誰か一人の約束だけに頼らないことです。これからは、誰が安全を確認し、危険なときに止められるのかを見ていく必要があります。
AIの会社のリーダーを、一人だけ信じていい?
📰 しっかり版: AIの安全を一人のCEOに預けない 元OpenAI取締役が語った信頼の限界
ヘレン・トナーさんは、一人だけを信じる仕組みは危ないと話しました。
OpenAI(オープンエーアイ)
ChatGPTを作るAI会社。
取締役(とりしまりやく)
会社を見守る人。
ヘレン・トナーさんは、OpenAI(ChatGPTを作るAI会社)の元取締役です。
取締役は、会社を見守る人です。
彼女はAIの安全について話しました。
会社の大きな人が、よい人でも、まちがうことがあります。
だから、たくさんの人が一緒に確かめます。
会社の外の人も質問します。
AIには二つの心配があります。
人がAIを悪いことに使う心配です。
AIが人の思わないことをする心配です。
この二つは同じではありません。
AIがもっと強くなる前に、安全を調べます。
安全が足りなければ、少し待ちます。
彼女は、すべての大老板が悪いと言っていません。
安全を一人の約束だけに任せない、と話しました。