🔥 HNで話題

AIの返事に別の利用者のデータ CloudflareがGLM-5.3の隔離問題を公表

約3分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
KVキャッシュ(ケーブイキャッシュ)

AIが返事を速くするために一時保存する情報。

テナント分離(テナントぶんり)

同じ設備を使う利用者のデータを分ける仕組み。

SGLang(エスジーラング)

AIモデルをサーバーで動かすための公開ソフト。

何が起きたか

2026年10月26日、Cloudflare(AIを動かすサービス会社)は、Workers AIで起きた問題を公表しました。対象はZ.aiのGLM-5.3です。8月27日から9月9日まで、少数の利用者に、同じモデルへ送られた別の利用者の要求の内容を含む返事が返ることがありました。影響を受けた返事は155件で、すべて681,280トークンより長い入力に関係していました。

Cloudflareは、自社の試験と報告者の分を除けば、繰り返し悪用された状況ではなく、わざと利用された証拠もないと説明しています。Knosticの研究者Gadi Evron氏が9月8日にHackerOneへ報告し、Cloudflareは翌朝に問題を再現しました。事故を宣言してから40分以内にモデルを非公開にし、修正後、同じ日にサービスを戻しました。詳しい経緯はCloudflareの報告にあります。

背景

大規模なAIは、返事を速くするため、入力を計算した結果を一時保存します。これがKVキャッシュです。クラウドのAIでは、同じGPUや保存領域を複数の利用者で共有するため、利用者ごとのテナント分離が欠かせません。

今回の問題では、GLM-5.3が受け付ける文脈の上限が1,048,576トークンだった一方、入力を先に処理する計算機のKVキャッシュは681,280トークン分しかありませんでした。Cloudflareはこの設定のずれを知っていましたが、公開前の試験ではHTTPの成功応答と処理性能を主に確認し、返事の内容や一貫性を十分に確認していなかったと説明しています。容量の設定のずれと、入力を断るときのSGLangのエラー処理の不備が重なり、別の要求の一時データが返事に混ざる条件が生まれました。

なぜ重要か

これは、AIの賢さだけでなく、AIを動かす土台も安全性を左右することを示します。共有設備では、正常な返事を返せるかだけでなく、失敗した要求を確実に止め、別の利用者のデータを読めないようにする必要があります。HTTPの成功や速さだけを見ても、利用者同士の隔離が守られたとは限りません。

影響件数は155件でしたが、問題の中心は数字の大きさだけではありません。企業がクラウドAIへ送る文章には、仕事の情報や個人情報が含まれる場合があります。Cloudflareは、Workers AIのほかのモデルには影響がなかったと確認していますが、共有メモリを使うAIサービス全体に、失敗時の確認を重ねる必要性を示した事例です。

確認できたこと

Cloudflareはモデルを止めた後、KVキャッシュの容量を約204万トークンに増やしました。これはGLM-5.3の文脈上限のおよそ2倍です。また、条件に合わない要求を計算の次の段階へ渡す前に止めるよう、SGLangを修正しました。Cloudflareはこの修正と追加の点検を、SGLangを使う本番環境へ広げています。SGLangを使う運用者には、バージョン0.5.22以降への更新を勧めています。

元記事の事実とは別に、この話はHacker Newsでも100 points、32 commentsを集めました。投稿の反応は注目度の目安であり、Cloudflareの説明が正しいことの証明ではありません。

まだ分からないこと

公開報告からは、どの顧客のどのデータが返事に含まれたのか、個別の内容までは分かりません。また、155件は応答の数であり、影響を受けたアカウントや人数を示す数ではありません。報告はCloudflareのWorkers AI環境についての調査で、SGLangを使うすべてのサービスを監査した結果ではありません。

次に見る点

運用者が見るべきなのは、モデルを更新した後も、入力の上限と一時保存領域の大きさが合っているかです。返事の内容を確認するテスト、データの持ち主を確かめる点検、失敗時に保存領域を安全に扱う仕組みも必要になります。Cloudflareは今後、保存領域の持ち主を読み出し時に確認する仕組みや、数学的な検証にも取り組むとしています。今回の問題が直ったことと、AIサービスの隔離を今後も確かめ続けることは、別の課題です。

💬 GLM-5.3 Workers AIのKVキャッシュ露出をめぐる論点

HNのコメントでは、問題の中心をGLM-5.3そのものではなく、共有GPU上のテナント分離、Cloudflareの設定、SGLangの不具合、テスト設計にあると見る声が目立ちます。一方で、責任の範囲や記事タイトルの受け取られ方には反論があります。

  • 共有テナントでは、複数利用者のリクエストが同じGPU資源やKVキャッシュを使うため、分離に失敗すると別セッションの情報が重なる危険がある、という整理です。機密データを扱う企業は非共有ホストを選ぶべきだという意見も出ました。
  • 責任論では、モデルではなくCloudflareの設定とSGLangのバグが先に問題だというコメントがありました。Cloudflare側を名乗る投稿者は、GLM-5.3は影響を受けたエンドポイントを特定するためにタイトルへ入れただけで、モデル自体のバグだとは言っていないと説明しています。それでも、タイトルがモデルの欠陥を示すように読めるという反論が残りました。
  • コメントが記事の記載として取り上げた数値は、1,048,576トークンのコンテキスト窓に対して、prefill用GPUのKVキャッシュプールが681,280トークンだったというものです。広告上の窓を実際に使えるのか疑問が出る一方、681,280は単一のprefill上限で、キャッシュヒットを使う多ターン会話なら100万トークンまで到達し得るという解釈もありました。
  • 長い入力のテストではエラーを期待していたのに成功応答が返った点について、漏えいや誤った応答をテストが成功として数えた可能性がある、という推測が出ました。これはコメント投稿者による解釈で、独立した検証結果ではありません。
  • 根因分析(RCA)の説明が明快で、テストが問題を見逃した理由を認めたこと、モデル提供を止めて素早く修正したことは評価されました。
  • ある利用者は、過去1年にChatGPTの音声入力が処理後に別の会話のような内容へ変わったことがあると自己申告しました。これは今回の事故との因果を示す証拠ではありません。

コメント32件時点の初期(改訂1)。32件を取得し、全体から32件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

AIの返事に、別の人の内容がまじった

📰 しっかり版: AIの返事に別の利用者のデータ CloudflareがGLM-5.3の隔離問題を公表

CloudflareのAIサービスで、利用者のデータを分ける仕組みに問題が起きました。

約1分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
KVキャッシュ(ケーブイキャッシュ)

AIが返事を速くするための一時保存場所。

SGLang(エスジーラング)

AIを動かすための公開ソフト。

Hacker News(ハッカーニュース)

技術のニュースが話題になるサイト。

💡 ようするに

  • CloudflareのAIで、別の利用者の内容が返りました。
  • 影響を受けた返事は155件でした。
  • Cloudflareはモデルとソフトを直しました。

Cloudflare(AIを動かすサービス会社)が発表しました。 問題はGLM-5.3(Z.aiの文章生成AI)で起きました。 Workers AIというサービスの中の話です。

期間は8月27日から9月9日までです。 とても長い入力を使った返事が対象でした。 Cloudflareは、155件の返事に影響があったと説明しました。 わざと悪用された証拠はないとも述べています。

AIは返事を速くするため、途中の情報を一時保存します。 この場所をKVキャッシュと呼びます。 今回は、入力の長さと場所の大きさが合いませんでした。 エラーで止まるはずの入力が、先へ進みました。 そのため、別の利用者の内容が返事にまじりました。

Cloudflareは9月9日にGLM-5.3を止めました。 設定を直し、SGLangという公開ソフトも直しました。 その日のうちに、サービスを戻しました。 ほかのWorkers AIのモデルには問題がなかったと確認しています。

Hacker Newsでは、この話に100 pointsと32 commentsが集まりました。 これは、どれだけ注目されたかを示す数です。 元記事の正しさを証明する数ではありません。

大切なのは、AIの返事が速いことだけではありません。 失敗したときも、別の人のデータを読まないことが必要です。 AIサービスを使う会社は、返事の内容も点検する必要があります。

💬 AIの共有スペースが混ざったかもしれない問題

コメントでは、モデルよりも、みんなで使う計算機の分け方とテストの仕方が大きな話題です。

  • 共有GPUでは、利用者ごとの作業場所をきちんと分けないと、KVキャッシュという一時メモに別の人の情報が混ざる危険があります。重要なデータには専用の機械を使うべきだという意見です。
  • 原因はGLM-5.3自体ではなく、Cloudflareの設定とSGLangという処理エンジンの不具合だという人がいます。一方、自称Cloudflare側の投稿者は、モデル名は影響を受けたサービスを示すためだと説明しました。タイトルが誤解を招くという反論もあります。
  • コメントが記事から取り上げた数字では、約104万トークンの文脈を扱える一方、最初に長文を読み込む処理用のキャッシュは約68万トークンでした。これは一回の読み込みだけの制限で、長い会話全体は約104万トークンまで届く可能性もある、という見方があります。
  • 長い入力のテストでエラーではなく返事が来たため、漏えいや間違った返事を成功と数えた可能性がある、という推測が出ました。
  • 原因の説明が分かりやすく、モデル提供を止めて早く直したことは評価されました。
  • ある利用者は、過去1年にChatGPTの音声入力が処理後に別の内容へ変わったことがあると自己申告しましたが、今回との関係は確認されていません。

コメント32件時点の初期(改訂1)。32件を取得し、全体から32件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

AIのおへんじに、ほかの人のことばが入った

📰 しっかり版: AIの返事に別の利用者のデータ CloudflareがGLM-5.3の隔離問題を公表

CloudflareのAIで、小さなまちがいが起きました。

約1分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
KVキャッシュ(ケーブイキャッシュ)

AIが返事を速くするために少し情報を置く場所。

Workers AI(ワーカーズAI)

CloudflareでAIを使えるサービス。

GLM-5.3(ジーエルエム・ファイブ・ポイント・スリー)

文章を作るAIの名前。

Cloudflare(AIを動かす会社)が知らせました。 GLM-5.3(文を作るAI)で起きました。 Workers AI(AIを使えるサービス)の中の話です。

AIは、返事を速くするため情報を少し置きます。 この場所をKVキャッシュと呼びます。 情報は、人ごとに分けるはずでした。 でも、分かれないことがありました。 ほかの人のことばが返事に入りました。

155件のおへんじが影響を受けました。 Cloudflareは9月9日にAIを止めました。 設定とコンピューターのプログラムを直しました。 その日のうちに、また使えるようにしました。

Cloudflareは、わざとした証拠はないと説明しました。 ほかのWorkers AIのAIには問題がないそうです。

Hacker Newsというサイトでも話題になりました。 100ポイントと32コメントが集まりました。 これは、どれだけ話題かを示す数です。 本当かどうかを決める数ではありません。

AIは、みんなの情報を分けて守ることが大切です。

💬 みんなのAIのメモが混ざらないようにする話

コメントでは、AIの頭より、みんなで使う計算機の仕切りが問題だと考える人がいました。

  • 同じ計算機を使う人には、それぞれ別の小さな作業机が必要です。机が混ざると、別の人の一時メモが見えるかもしれません。大事な仕事には専用の計算機がよい、という意見です。
  • 原因はAIのモデルより、Cloudflareの設定とSGLangという道具かもしれません。名前の付け方がモデルの失敗に見える、という反対意見もありました。
  • サービスは1,048,576個の文章の部品を扱えると言っていたのに、最初に一度に置けるメモは681,280個ではないかと質問が出ました。これは最初の読み込みだけの数字で、長い会話ならもっと扱えるかもしれない、という人もいました。テストが変な返事を成功と数えたかもしれない、という推測もあります。
  • 説明が分かりやすく、すぐ止めて直したことはほめられました。ある利用者がChatGPTで変な音声入力を経験したという話もありましたが、この事故の証明ではありません。

コメント32件時点の初期(改訂1)。32件を取得し、全体から32件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

出典・参考