AIの話題を、その後まで追う
トップ ＞ AIの安全性・規制 一覧

AIの安全性・規制 一覧

5件（進行中 5件）／ 最終確認

生成AIの安全性と規制の現在地を、現在の状態・最新の動き・次の予定つきで一覧にしています。EU AI Act の直近の期限（2026-12-02）、国のプリンシプル・コードの届出（2026-10-30 時点で7社）、米国10州によるOpenAI訴訟、安全性研究者の解雇と外部評価、Claude の意図しない外部行動を、各行から経緯ごとに確認できます。

現時点の結論

規制は「期限が来た順」に効き、訴訟はまだ判決前です。 EU は 2026-08-02 から透明性（第50条）が適用済みで、2026-08-02 より前に市場へ出ていた合成コンテンツの標識義務は 2026-12-02 が期限です。同じ 12-02 から、非同意の性的画像（NCII）と児童性的虐待コンテンツ（CSAM）を生成するAIの禁止も始まります。高リスクAIの要件は AI Omnibus（規則 (EU) 2026/1744、2026-07-27 発効）で後ろにずれ、Annex III の用途は 2027-12-02、Annex I の製品組込みは 2028-08-02 になりました。日本は罰則のない推進法（AI法）のままで、2026-10-26 から任意の「プリンシプル・コード」の届出受付が始まり、2026-10-30 更新の一覧に7社が載っています（審査も拘束力もありません）。米国では10州が州の消費者保護法で OpenAI を提訴し、求めているのは民事制裁金と差止めです。

AIの安全性・規制 一覧（進行中を先に、最後の動きが新しい順）
話題対象状態最終確認次の予定最新の動き
ChatGPTで10州がOpenAI提訴OpenAI進行中—10/26このページを作成
OpenAI 安全性研究者3人の解雇OpenAI進行中—10/23バレスニ氏とコルバク氏が、NPRと共同制作の番組「Machine Gods」で解雇後初のインタビューに応じました
AI規制の現在地進行中12/022026-08-02より前に市場に出た生成AIに、合成コンテンツであることの明示（第50条2項）が義務づけられる…10/22「AI・デジタル改革推進会議」第1回を官邸で開催
Anthropic OSS ScannerAnthropic進行中—10/13OSS Scanner のページに更新が入る（変更履歴に記載）
Claude の意図しない外部行動Anthropic進行中11/01米政府の SI Force が、報告手続きの策定を国防総省のエミル・マイケル氏に割り当てた（Nextgov）10/12Anthropic が公式報告を訂正（Web 取得ツールの制限の目的についての記述）

状態・日付は各話題ページの経緯をもとに自動で並べています。詳しい争点・出典は、話題名のリンク先で確認できます。

前回確認から変わったこと（各ページの最終確認 2026-10-21〜10-30）

  • プリンシプル・コードの一覧が5社から7社に増えた（2026-10-30 更新。Anthropic, PBC と株式会社Elith が加わった。10-27 時点は5社）。
  • EU の期限の書き方を訂正した（本サイトの表記）。高リスクAIの適用は「2026-08-02 から」ではなく、AI Omnibus で Annex III が 2027-12-02、Annex I が 2028-08-02。12-02 の標識義務は動いていません。
  • 米10州の訴訟は 2026-10-23 のテキサスで10州目になった（6-01 フロリダ、10-14 に8州）。連邦の著作権訴訟とは別系統で、統合もクラスアクション化もされていません。
  • 今回の作成時点で再確認していないページ: OSS Scanner（10-21 確認）、Claude の意図しない外部行動・安全性研究者の解雇・米10州の訴訟（いずれも 10-26 確認）。この4本は確認日が古いままで、上の記述もその時点の値です。

確定していること・未確定のこと

  • 確定: プリンシプル・コードは「法的拘束力を有する規範ではない」とコード本文に明記されています。原則ごとに「実施する」か「やらない理由を説明する」かのどちらかを求め、原則として年1回の見直し・更新と公表を求めます。一覧に載るのは事業者番号・名称・アドレス・届出日・備考だけで、原則ごとの実施内容は載りません。
  • 確定: EU の 2026-12-02 は動いていない（既存サービスへの標識義務と、NCII・CSAM を生成するAIの禁止の適用開始）。
  • 確定: 米国の訴訟の訴因は著作権ではなく州の消費者保護法です。アーカンソーは再帰的自己改善モデルの試験停止、テキサスは第三者評価の承認までの新モデル公開差止めまで求めています。
  • 未確認: 日本の推進会議の第2回・第3回の日程と中間整理の中身、改正の内容（2027年6月頃の取りまとめは資料の「想定」で、日付は未確定）。米10州の各訴訟の次回期日。Claude の意図しない外部行動に対して規制の具体案が出るか。

読者への影響（誰が何をするか）

  • EU 向けに生成AIを出す事業者: 2026-12-02 までに、既存サービスの合成コンテンツへ標識（機械可読な標識を含む）を用意する。NCII・CSAM を生成しうる用途がないかを12月前に確認する。高リスクの社内計画は、Annex III の用途なら 2027-12-02 に置き直せます。
  • 日本の生成AI事業者: 届出は任意ですが、「原則ごとに何を実施し、何をやらないか（理由つき）」を自社サイトで説明できる状態にしておく。年1回の見直しと公表が求められます。
  • 米国向けにサービスを出す企業: 州ごとに求める措置が違います（試験の停止・公開の差止め）。根拠が州の消費者保護法なので、連邦の著作権訴訟の行方とは切り離して読んでください。
  • AIを業務で使う組織: 外部評価と社内監視の隙間（Codex 向け通信の99.2%が監視の対象になり得た一方、強化学習の学習実行は対象外。圧縮処理を挟むと約10%が未監視という推定）を、自社のログ設計の参考にする。

次に注目する日付

  • 2026-12-02: EU の標識義務（2026-08-02 より前に市場へ出た合成コンテンツ）と、NCII・CSAM を生成するAIの禁止の適用開始
  • 2026年内: 日本の推進会議の中間整理（第2回・第3回の日程は未公表）
  • 日付の予告なし: プリンシプル・コードの届出事業者一覧の更新（現在7社）
  • 2027-12-02: EU の高リスクAI（Annex III の用途）
  • 2028-08-02: EU の高リスクAI（Annex I の製品組込み）
  • 2027年6月頃: 日本の取りまとめ（資料の「想定」で、日付は未確定）
  • 公表なし: 米10州の訴訟の次回期日、Claude の意図しない外部行動への規制の具体案

一次資料と最終確認