Anthropic（Claudeを作るAI会社）は、2026年9月、悪い目的でAIが使われた事例をまとめた報告書を公開しました。対象は、同社が2025年12月から2026年8月に見つけ、止めた活動です。サイバー活動、監視、世論への働きかけ、詐欺、生物分野、通常兵器、AIの能力を不正に写し取る活動の七分野を扱います。これはAnthropic自身の調査で、独立した監査ではありません。

何が起きたか

報告の中心は、AIが単なる相談相手ではなく、作業の流れを動かす道具として使われた事例です。Anthropicによると、一部の活動では、AIに文書の作成、情報の分析、ソフトウェア作業などをさせていました。複数のAIに別々の役割を与える例もあったといいます。ただし、人間が標的を決めたり、得られた情報を確認したりしていました。AIだけが勝手に一連の事件を起こした、という報告ではありません。

背景

生成AIは、調査、文章作成、コード作成といった小さな仕事を速く進めます。悪い目的で使われれば、以前なら多くの人手や専門知識が必要だった作業の入り口が広がります。報告書が示すのは、AIが新しい悪意を自分で発明したということではありません。人間の計画を、より速く、広く、深く進められる可能性です。報告には、偽のサービスを使った詐欺、監視用の仕組み、宣伝活動、武器開発を支える文書やソフト、別のAIに能力を写す活動などが登場します。

なぜ重要か

守る側は、悪い道具や決まったパターンを見つけて止めることがあります。しかし、AIを使う側が文章や手順を変え続けると、固定された検知ルールは追いつきにくくなります。Anthropicは、AI利用による変化を「速さ、規模、深さ」の三つの面で見ると説明しています。これは被害が必ず増えたと断定する資料ではありません。少ない人手でも、多くの作業を連続して進められる可能性を示す資料です。

確認できたこと

Anthropicは、関係するアカウントを停止し、調べた情報を当局や業界の協力先と共有し、発見と防止の仕組みを強化したと説明しています。報告に登場するモデルはHaiku、Sonnet、Opus系が中心で、FableやMythos系は不正な能力抽出の一例を除き使われていないとしています。また、紹介された事例は普通の利用ではなく、同社が見つけた特に目立つ活動だと注意しています。

まだ分からないこと

この報告はAnthropic自身の調査です。すべての事例を第三者が同じ資料で再確認したわけではありません。関係者についても、高い確信を持って帰属できるとする例と、特定の組織まで結びつけられない例が混在します。さらに、活動が最終的にどれほどの被害を生んだのか、AIがなければ起きなかったのか、見逃された試みがどれだけあるのかは、公開情報だけでは確定できません。

次に見る点

今後は、AI会社が悪用を発見した数だけでなく、第三者が検証できる記録、停止後に被害がどう収まったか、他社や政府との情報共有がどう機能したかを見る必要があります。Hacker Newsの投稿は102ポイント、172コメントを集めました。これはコミュニティの注目度であり、報告内容の正しさを証明する数字ではありません。