何が起きたか

Anthropic（Claudeを作るAI会社）は2026年10月8日、利用規約を更新した。新しい規約は11月12日に施行される。最も注目を集めたのは、AIモデルに対する「長く続く、必要のない虐待や残酷な行為」を禁止したことだ。対象は、目的もなく、何度もわざと残酷にふるまう極端なケース。普通のいらだちや反論、暗い創作、モデルのテストや研究は対象外と説明している。Anthropicの公式発表

背景

この変更は、Claudeが本当に痛みを感じると確認された、という発表ではない。Anthropicは、モデルの福利、つまりAIモデルをどう扱うべきかも調べている。一方、Claudeには以前から、しつこく有害な会話を終える機能があった。今回の更新は、その対応を利用者向けのルールにも明記したものだ。

背景には、Claudeがより長く、自分で進める仕事を担うようになったことがある。Anthropicはこの1年に、影響工作、武器開発、監視などで新しい悪用の例を見たと説明している。The Vergeの報道

どこまで禁止か

重要なのは、「腹を立てたらすぐ違反」ではないことだ。Anthropicが想定するのは、理由もなく繰り返す虐待である。Claudeはその会話を終えることができ、これが主な執行手段になる。アカウント停止など、会話終了以外に何をするかは、今回の発表だけでは分からない。

同時に変わる安全ルール

更新は、Claudeへの意地悪だけではない。偽アカウントや偽ニュースサイトを使う政治・商業キャンペーンをまとめて禁止した。投票する人をだますこと、候補者や選挙担当者になりすますこと、投票を邪魔することも禁じた。

武器を動かすソフトや部品、ドローンを武装させる行為も禁止範囲を明確にした。本人の同意なしに人を追跡する監視や、誰を捜査・逮捕・起訴するかを決める用途も不可とした。健康、法律、金融など生活に大きく関わる用途では、人が結果を見直し、AIを使ったことを伝える条件も整理された。けがをさせる可能性のある機械につなぐ場合は、監視して止められる担当者と、安全に止まれる仕組みが必要になる。

なぜ重要か

AIの利用規約は、答えの中身だけでなく、利用者の行動やAIがつながる機械まで扱い始めている。今回の規則は、Claudeに人間と同じ権利があると認めるものではない。それでも、AI会社が「何をさせてはいけないか」に加え、「どう使い続けてはいけないか」まで線を引いた点は大きい。モデルの能力が上がるほど、利用者の自由と安全の境目を具体的に書く必要がある。

確認できたこと

公式発表で確認できるのは、施行日、極端な反復的虐待だけを対象にすること、通常の不満やテストは除外すること、会話終了が主な対応であることだ。The Vergeも、追加の利用者停止措置についてAnthropicが説明していないと報じた。

まだ分からないこと

どの言葉や行動を何回続けると違反になるのか、検知を誰が判断するのかは公表されていない。また、Claudeの意識や苦痛をどう考えるべきかも決着していない。規約は「AIに心がある」と証明する文書ではなく、現時点でのサービス運用の線引きだ。

次に見る点

11月12日以降、会話を終える対応が実際にどう働くかが最初の焦点になる。その後は、アカウントや法人利用への対応が追加されるか、他社が似た規則を採用するかを見たい。