何が起きたか

WhatsApp（メッセージを送るアプリ）のヘルプページに、読者には表示されないAI向けの指示が埋め込まれていた。Redact（オンライン上の情報を消すサービスを運営する会社）の調査によると、ヘルプセンターがリンクする545ページを調べたところ、80ページに102個の隠れた文章のまとまりがあった。調査原文

文章は、WhatsAppのサポートチャットボット（質問に答えるAI）へ渡すためのものだった。画面に出る案内と、AIに渡る案内が同じではなかった。WIRED（テクノロジー系ニュース媒体）も保存されたページのコードを確認し、WhatsAppに取材した。報道

背景

ヘルプページには、人が読む説明だけでなく、AIが質問に答えるときの補助情報も置かれていたとみられる。見つかった文章の多くは、言葉の意味を補ったり、別のページを案内したりする一般的な指示だった。問題になったのは、その中に「何を言わないか」を細かく指定するものがあったことだ。

WhatsAppは、これらは利用者向けの文章ではなく、自社のサポートAIへの指示だと説明した。表示されたのはバグで、すでに削除したという。法律相談をAIにさせないという目的そのものには、理解できる面もある。

なぜ重要か

アカウントを消せない人向けのページでは、データ保護当局や規制当局へ相談するよう勧めない指示が見つかった。別のページでは、利用者が弁護士や訴訟に触れたら、WhatsAppの利用規約やプライバシーポリシー、GDPRなどの個人情報保護法を引用・説明しないよう求めていた。

一方、欧州向けの公開プライバシーポリシーは、情報の消去を求める権利や、アイルランドのデータ保護委員会などへ苦情を申し立てる権利を説明している。つまり、公開文書が知らせる権利と、サポートAIが返す情報の間にずれが生じうる。AIの返事は、会社の方針をどう書いたかだけでなく、どの情報を答えから外したかにも左右される。

確認できたこと

隠れた文章は、通常の画面には出なかったが、ページのコードには含まれ、GoogleやBingのクローラーには送られていた。Redactは、10月18日には80ページすべてから102個の文章が消えたと報告している。古いページの保存版では、削除前の内容を確認できる。

Hacker News（技術者向けの掲示板）の投稿には数百ポイントと約100件のコメントが集まり、コミュニティの注目度は高かった。ただし、ポイントやコメント数は話題の大きさを示すだけで、元記事の正しさを証明する数字ではない。

まだ分からないこと

この指示をWhatsAppのサポートAIが実際の会話で守ったかは、調査では確かめられていない。OpenAI、Anthropic、Perplexityのクローラー名でページを取得した際には、記事や隠れた文章が返らなかったが、外部のAIが指示に従ったかも不明だ。指示がいつから置かれていたのか、別の言語やリンクされていないページにもあったのかも確定していない。

次に見る点

今後は、WhatsAppがサポートAIの指示を公開・監査するのか、公開ポリシーと回答内容のずれをどう点検するのかが焦点になる。AIを窓口にする会社にとっても、利用者に見える説明と、AIだけが読むルールを一致させられるかが課題だ。