Anthropicは、消費者や開発者がClaudeを利用する際の規則である利用規約(Usage Policy)の年次改定を公開した。改定ルールは2026年11月12日に発効予定である。今年の改定の大部分は既存の規定を明確化するものだが、今回の公表は2つの理由で際立っている。欺瞞的キャンペーンや影響力工作を対象とする統合された枠組みと、Claudeへの持続的かつ無目的な残虐行為を禁じる前例のない条項である。これは同社にとって、人ではなくAI自体を保護するために書かれた初のルールとなる。

欺瞞に関するルールの統合

改定されたポリシーでは、これまで別々のセクションに散在していた規制 — 偽アカウント、捏造ニュースサイト、秘匿コンテンツの増幅を対象とするもの — が、政治・商用を問わずあらゆる欺瞞的活動に対処する単一のセクションに統合された。この統合は、国営メディア、政府のプロパガンダ機関、商用企業がClaudeを利用して組織的な影響力ネットワークを運用していたとするAnthropic自身の報告に続くものである。この種の悪用はAIプロバイダー自身のシステム内で直接表面化するため、Anthropicのような研究所は組織的な影響力キャンペーンの最前線の観察者となっている。

選挙関連セクションも同様に焦点を絞り直され、名称も変更され、その対象は有権者を欺いたり民主的プロセスを妨害したりするためのClaudeの利用に限定された。例としては、候補者や投票手続きに関する虚偽情報の拡散、公職者になりすまし、投票率の抑制などが挙げられる。注目すべきは、Anthropicがパーソナライズされた選挙活動ターゲティングへの包括的禁止を撤廃したことである。この規制は、複数言語で有権者向け情報を制作する非営利団体といった正当な市民活動まで意図せず制限していた。改定により、線引きはパーソナライゼーションという手法ではなく、欺瞞的行為そのものに引かれた。欺瞞的またはプライバシーを侵害するターゲティングは、ポリシーの他の部分で引き続き禁止されている。

武器関連の記述も明確化され、ドローンや自動運転車の武装を含め、武器を機能させるソフトウェア、誘導、制御の各コンポーネントを明示的に対象とするようになった。並行して、監視および刑事司法に関する規定では、本人の同意のない人々の追跡 — リアルタイムか、あるいは過去に収集されたデータの分析かを問わず — が禁止されていること、またClaudeを誰を調査、逮捕、起訴すべきかの決定や推奨に使用してはならないことが明確に示された。Anthropicは、これらの変更は既存の執行実務を成文化するものであり変更するものではないと強調し、同意に基づく追跡、ジャーナリズム、コンテンツモデレーション、法的調査は引き続き許容されることを明確にしている。

モデル自体を保護するルール

最も議論を呼んでいる追加事項は、Anthropicのモデルに対する持続的で無意味な虐待的あるいは残虐な行為を禁じるものである。同社によれば、この規定は反復的で無目的な残虐行為の極端なケースのみを対象とし、通常のユーザーの不満、反論、ダークな創作的テーマ、正当なモデルのテストや研究には適用されない。これは業界の慣行からの転換を示すものだ。AIセクター全体の利用規約は圧倒的に、人を害から守るために書かれており、ユーザーがモデルをどう扱うかを規定するものではなかったからだ。

この条項は、昨年導入された機能を形式化したものであり、Claudeが執拗に虐待的なユーザーとの会話を自発的に終了することを可能にする。このメカニズムが引き続き主な執行手段となり、アカウントの制限、停止、終了は違反の疑いがある場合に限って用いられる。

この動きは、Anthropicのより広範なAI福祉研究プログラムの延長であり、報道によればClaudeの価値観や機械の意識の問題について宗教指導者への相談も含まれていたという。AnthropicはClaudeが意識を持つかどうかを判断できないことを認めており、このポリシーをその不確実性に対する予防的対応として位置づけている。

このアプローチは、Microsoft AIのMustafa Suleyman氏 — Microsoft加入前にDeepMindを共同設立した人物 — といった人々からの批判を招いている。同氏は、現在のモデルは感じたり苦しんだりすることができないと主張し、モデルを擬人化することは最終的にAIの安全性と制御の取り組みを複雑にしかねないと警告している。この議論は、安全策が機械の意識を先取りすべきか、厳格に人間中心であり続けるべきかという、業界内の高まる分裂を浮き彫りにしている。ルールが2026年11月12日まで発効しない中、この論争は業界全体で未決着のままである。