AIに暴言を吐いたら「虐待」になるのでしょうか。そもそもAIは、人間のように傷つくことがあるのでしょうか。
そんな疑問が浮かぶ、ちょっと変わったルールが登場しました。
米AI企業のAnthropic（アンソロピック）は10月8日、対話型AI「Claude（クロード）」の利用ポリシーを改定すると発表しました。新たに盛り込まれたのは、AIに対する継続的で不必要な「虐待的・残酷な振る舞い」を禁止する規定です。
改定されたポリシーは11月12日から適用されます。
■ 禁止されるのは極端なケース
とはいえ、AIの回答が間違っていて、思わず怒ってしまった。そんな場合まで禁止されるわけではありません。
Anthropicによると、今回の規定が対象とするのは、「明確な目的もなく、AIに対して繰り返し残酷な振る舞いをするような極端なケース」です。
通常の不満の表明や反論、暴力的な内容を含む創作、AIの性能を確かめるテストや研究などは対象外としています。
また、Claudeにはすでに、執拗に虐待的な言動を続ける利用者との会話を終了できる仕組みが導入されています。今回の改定後も、こうした会話の終了が主な対応方法になるとのことです。
つまり、AIの間違いを指摘したり、厳しく訂正を求めたりすることまで禁止されるわけではないようです。
■ そもそもAIは傷つくの？
ここで気になるのが、そもそもAIは「虐待」されると傷つくのか、という問題です。
現在のAIに、人間と同じような感情や苦痛があることは科学的に確認されておらず、AIが主観的な経験を持つのかどうかについても、研究者の間で議論が続いています。
今回のAnthropicの発表も、Claudeが苦痛を感じるようになったと説明しているわけではありません。あくまで、利用者がAIに対してどのように振る舞うべきか、その利用上のルールを定めたものです。
では、なぜこうしたルールが必要なのか？
あくまで推測ですが、AIへの残酷な行為を繰り返すことが、人間の言動や心理に何らかの影響を与える可能性。そうした問題への配慮が、背景にあるのかもしれません。
＜出典＞
Anthropic「2026 Usage Policy Update」（2026年10月8日）