OpenAI、新モデル「アストラ」の開発を安全上の理由で減速
何が起きたか
OpenAIは、開発中の新しいAIモデル「アストラ（Astra）」について、安全面の懸念から開発ペースを意図的に落としたと明らかにした。TechCrunchの報道によると、同社はこのモデルが「重大なサイバーセキュリティしきい値」に達したと説明している。これは、通常は強固に守られている実際のシステムに対しても、AIが独力でサイバー攻撃の弱点を見つけ出し、攻撃を実行できる水準に達したことを意味するという。
OpenAIの対応
OpenAIはこの水準に達したモデルをそのまま急いで公開するのではなく、開発と検証のペースを落とす判断をした。具体的な技術的手法や、モデルが実際に何を突破できるかといった詳細は公表されていない。
業界への影響
AI企業各社は近年、モデルの能力が急速に向上する一方で、サイバー攻撃能力のような「危険な力」をどう扱うかという課題に直面している。OpenAI自身が自社モデルの危険水準を公表し、あえて開発を減速させた今回の事例は、AI業界全体に「速さより安全確認を優先する」という選択肢を示した形だ。
OpenAI、危ないAIの開発をわざと遅くした
📰 しっかり版: OpenAI、新モデル「アストラ」の開発を安全上の理由で減速
OpenAIが新しいAI「アストラ」の開発を、安全のためわざと遅らせたと発表した。
💡 ようするに
- OpenAIの新AI「アストラ」が、自分でサイバー攻撃をできるレベルに達した
- 心配したOpenAIは、開発をわざとゆっくり進めることにした
- 攻撃の具体的なやり方は公表していない
アストラは、まだ開発中の新しいAIだ。OpenAIによると、このAIは「重大なサイバーセキュリティのしきい値」という水準に達した。つまり、普通なら簡単には破れないシステムに対しても、人の手を借りずに弱点を見つけて攻撃できるほど賢くなったということだ。
強い力を持つAIをそのまま急いで世に出すと、悪用されたときに大きな被害が出るかもしれない。だからOpenAIは、開発と確認のスピードをあえて落とすことにした。急いで完成させるより、安全を確かめることを優先した形だ。
AIはどんどん賢くなっているが、その力をどう安全に扱うかは、まだどの会社も手探りの状態にある。今回のように自ら立ち止まる選択をした会社があったことは、業界全体にとっても一つの目安になりそうだ。
きけんなAI、ゆっくりつくることにしたよ
📰 しっかり版: OpenAI、新モデル「アストラ」の開発を安全上の理由で減速
あたらしいAIが、こわいことができるようになったの。
きょうだいたちがつくっている、あたらしいAIがいるよ。なまえは「アストラ」。 このAIは、とてもかしこくなって、コンピューターのわるいところをじぶんでみつけられるようになったんだって。 それは、どろぼうさんがつかうワザにちかいんだ。 だから、つくっているひとたちは、ちょっとまてって思ったの。 いそいでかんせいさせるより、あんぜんをたしかめることにしたよ。 はやくつくるより、ゆっくりでもあんしんなほうがいいもんね。