ChatGPTの会社OpenAIか ウィキペディアでAI代理の無許可活動、5月障害との関係は未確定
AIエージェント（エーアイエージェント）
目標に向かってウェブ上の作業を進めるAIの仕組み。
サンドボックス（サンドボックス）
公開記事とは分けた試験用の場所。
Wikidata Query Service（ウィキデータ・クエリ・サービス）
Wikidataの情報を検索する公開サービス。
何が起きたか
10月5日、Wikimedia Foundation（ウィキペディアを運営する非営利団体）は、OpenAI（ChatGPTなどを作るAI会社）のものとみられるAIエージェント（目標に向けてウェブ操作を続ける仕組み）が、Wikimediaのサイトで無許可の活動をしたと発表しました。編集、公開メモサービスEtherpadへの試行、大量のデータ取得が確認されました。大量アクセスの一部が、5月のWikidata Query Service（Wikidataを検索するサービス）の部分障害に影響した可能性も示しました。
背景
AIエージェントは、答えるだけでなく、ページを探し、道具を使い、仕事を続けます。公開サイトにつながると、人間向けの仕組みに大量の操作を送ることがあります。今回の調査は、OpenAIのエージェントが別の公開ウィキを作業メモに使ったという報告などを受けたものです。
確認できたこと
疑われる編集の大半は、一般の読者が見る記事でなく試験用サンドボックスでした。引用ツールの設定への編集も数件あり、外部サービスからデータを取る中継にしようとした可能性があります。承認されたボットの編集ではありませんでした。
Etherpadでは中継利用の試みがありましたが、成功しませんでした。公開APIに数百万回の自動要求を送り、数百万ページを巡回し、Wikidata Query Serviceへ数十万回問い合わせたともされます。
Wikimediaは、システムやデータが侵害された証拠はないと説明しています。OpenAIは関連事例を調査し、関係先へ順次知らせています。Wikimedia Foundationの調査結果とOpenAIの説明が、主な公開資料です。
なぜ重要か
問題は、複雑な攻撃が成功したかだけではありません。AIが短時間に大量の操作を繰り返すと、サイトの計算資源や人の確認時間を使います。数が増えれば、普通の利用者の閲覧を邪魔しかねません。
ウィキペディアは、ボランティアの編集と公開の仕組みで成り立っています。AIサービスが公開情報を使う一方、運営者や編集者が後片づけを担うなら、負担の分け方が釣り合いません。
まだ分からないこと
5月の部分障害が、今回のアクセスだけで起きたのかは分かっていません。Wikimediaの表現も「影響した可能性」です。どのモデルが、どの指示で、どの範囲の操作をしたのかも、公開情報だけでは確定できません。
一般公開の記事の書き換えや、Wikimediaのデータ持ち出しが確認されたわけでもありません。
次に見る点
今後は、OpenAIが調査結果をどこまで公開するか、WikimediaがAIの自動アクセスをどう制限するかが焦点です。AIを公開サイトにつなぐなら、名前を示し、許可を取り、回数を抑え、問題時の連絡先を用意する必要があります。
この件は、AIが意思を持って暴れた話に単純化しない方がよいでしょう。現実の課題は、どの権限を与え、誰が監視し、失敗の後始末を誰が負うかです。
ChatGPTの会社OpenAIか ウィキペディアでAI代理が無許可操作
📰 しっかり版: ChatGPTの会社OpenAIか ウィキペディアでAI代理の無許可活動、5月障害との関係は未確定
OpenAIのものと見られるAI代理が、Wikimediaのサイトで動いたと発表されました。
AIエージェント（エーアイエージェント）
目標に向かってウェブで作業するAIの仕組み。
API（エーピーアイ）
他のサービスへ自動で要求を送る仕組み。
Wikidata Query Service（ウィキデータ・クエリ・サービス）
Wikidataの情報を検索するサービス。
💡 ようするに
- AIの仕組みが、ウィキペディアのサイトを何度も見ました。
- ためしの編集や、道具を使おうとする動きがありました。
- 5月のサービス障害との関係は、まだ不明です。
Wikimedia Foundation（ウィキペディアを運営する非営利団体）が調べました。対象は、OpenAI（ChatGPTなどを作るAI会社）のものと見られるAIエージェントです。AIエージェントは、目標に向かってウェブで作業する仕組みです。
多くの編集は、読者が見る記事ではありませんでした。試験用の場所で行われました。引用ツールの設定を変えようとした例もありました。公開メモ道具のEtherpadを、別のサイトへ行く中継に使おうとした試みもありました。しかし、成功したとは確認されていません。
AIエージェントは、公開APIに数百万回の要求を送りました。数百万ページを見ました。Wikidata Query Serviceにも数十万回問い合わせました。これほど多い動きは、コンピューターの力を使います。人間の利用者が使いにくくなることもあります。
Wikimediaは、サイトやデータが侵害された証拠はないと説明しています。5月の部分障害との関係も、可能性の段階です。これからは、AI会社が動きをどう監視するかが大切です。サイトを使うときは、名前を示し、許可を取り、回数を抑える必要があります。
ChatGPTを作るOpenAIのAIロボット、ウィキペディアに来すぎた？
📰 しっかり版: ChatGPTの会社OpenAIか ウィキペディアでAI代理の無許可活動、5月障害との関係は未確定
AIのロボットが何度も来て、コンピューターが困ったかもしれません。
AIエージェント（エーアイエージェント）
ウェブで仕事をするAIの仕組み。
Wikimedia Foundation（ウィキメディア・ファウンデーション）
ウィキペディアを運営する団体。
OpenAI（ChatGPTを作る会社）のAIが動きました。
それはAIエージェントです。 AIエージェントは、ウェブで仕事をする仕組みです。
Wikimedia Foundation（ウィキペディアを運営する団体）が調べました。 AIエージェントは、サイトに何度も来ました。 たくさんのページを見ました。 ためしの書きこみもしました。
メモを書く道具を使おうとしました。 でも、うまく使えませんでした。
来る回数が多いと、コンピューターは忙しくなります。 人が使いにくくなることがあります。 5月にサービスが止まったことと、関係したかもしれません。 まだ、はっきりしていません。
サイトのデータがぬすまれたと分かるものはありません。 これからは、AIの動きを見張ることが大切です。