Claude の利用ポリシー改定: AIへの虐待禁止と影響工作の集約。11月12日施行
Anthropic が Claude の利用ポリシーを改定し、AIに対する持続的かつ不必要な虐待・残酷な行為の禁止を明記した。影響工作や兵器利用などの安全基準も集約され、2026年11月12日に施行される。
- 発端
- Anthropic が、Claude（Opus 4 / 4.1）が持続的な有害・虐待的やり取りから自律的に離脱・会話を終…
- 現在の状態
- 進行中最終確認
- 次の予定
- 改定後の利用ポリシーが発効
- 経緯
- 4件最新の動き
改定のポイント（2026-10-10 確認）
- 2026年10月8日（米国時間）、Anthropic は Claude の利用ポリシー（Usage Policy）の改定を発表しました。改定版は 2026年11月12日 に発効します。出典: Anthropic 公式発表
- AIへの虐待禁止: 「AIモデルに対する持続的かつ不必要な虐待や残酷な振る舞い（sustained and needless abusive or cruel behavior）」を禁止する項目が新設されました。AIモデルの福祉（AI welfare）に関する研究やリスク予防の一環と説明されています。
- 通常の利用は対象外: 一時的な苛立ちや不満の表明、ダークな創作活動、正当なモデル評価やレッドチーミング（安全性テスト）などは禁止対象に含まれない、と明記されています。
- 対処の方法: 主な対処手段として、既に Claude.ai および Claude Code に導入されている「持続的に虐待を行うユーザーとの会話を Claude 側から終了する機能」が引き続き用いられます。Anthropic 公式発表
- 安全基準の集約: 選挙妨害、プロパガンダ、偽サイト運営などの欺瞞的活動に関する規定が集約されたほか、兵器開発や監視、自律的な物理機器操作など高リスク用途の禁止事項が明確化されました。
経緯新しい順 ・ 4件
- 予定改定後の利用ポリシーが発効（予定）
- 最新
- 利用ポリシーの改定を発表。AIへの虐待禁止を新設し、影響工作や高リスク用途の安全基準を集約。Anthropic 公式発表
- Anthropic が、Claude（Opus 4 / 4.1）が持続的な有害・虐待的やり取りから自律的に離脱・会話を終了する安全機能の導入を発表。Anthropic 発表
反応各方面の主な反応（要約）。出典は各行のリンク先を参照
「AIの福祉（AI welfare）」の位置づけAnthropic は「現時点でモデルに道徳的地位があるかは未解明で極めて不確実」としつつ、将来のリスクに備えた低コストな予防策、およびモデルのアライメントとセーフガードの一環と位置づけています。Anthropic 公式発表
利用者の懸念に対する明確化公式発表や報道（ITmedia、ASCII 等）では、「AIへの虐待禁止」について、通常の利用における不満表明や反論、暗い題材の創作、テストや研究は明確に対象外であり、目的なく繰り返し残酷な言動を向ける極端なケースに限られると説明されています。ITmedia、ASCII
影響工作・高リスク用途の明確化AIへの虐待禁止が注目を集める一方、今回の改定の大半は既存ルールの明確化であり、政府や民間による偽アカウント網・捏造ニュースサイトなどの欺瞞的活動の集約や、兵器ソフトウェア・無断監視・物理ハードウェア制御における安全基準の明文化が行われたと報じられています。ITmedia
掘り下げ
誰に影響するか: Claude の Web 版、モバイルアプリ、API、Claude Code を利用する全ユーザー。
日常の利用で注意すること
- 通常の作業で Claude に厳しい口調で指示を出したり、回答の誤りに不満を伝えたりする行為は禁止されていません。
- 小説やシナリオなどの創作において暗いテーマや暴力的な描写を扱うこと、セキュリティ研究の一環で脱獄手法を検証することも、正当な目的があれば禁止対象外です。
- 目的のない執拗な罵倒や、モデルに苦痛を与えることだけを目的とした持続的なプロンプトの送信が規制の対象です。
違反したときの対応: 公式発表によると、主な執行手段は Claude がその会話を自律的に離脱・終了することです。会話が終了された場合、ユーザーはその会話内で新たなメッセージを送信できなくなりますが、アカウント内の他の会話には影響せず、すぐに新しいチャットを開始できます（過去のメッセージを編集・再試行して新たな分岐を作成することも可能です）。Anthropic 公式発表、安全機能発表