2025年5月に署名・施行されたTAKE IT DOWN法（AIを使った性的ディープフェイクの作成・拡散を禁止する連邦法）の初の有罪判決が、2026年4月に確定しました。近隣住民の非合意の性的AI生成画像（NCI：Non-Consensual Intimate Images）を作成したオハイオ州の男性が対象となり、成立後1年足らずで法的抑止力が実証される形となっています。
TAKE IT DOWN法は、生成AIの急速な普及により誰でも本物に近い合成画像を作成できるようになったことを受け、その悪用に対処するために制定された米国初の連邦レベルのディープフェイク性的コンテンツ禁止法です。対象は「被害者の同意なしに作成・配布された性的に露骨な合成画像」であり、AIによる生成物かどうかを問わず適用されます。被害者支援団体はX上で「法律の実効性が証明された」と評価し、施行に積極的に携わった議員・団体への謝辞が多く投稿されました。
一方で量刑水準を問う声も上がっています。r/artificialではAIディープフェイク規制の国際的な波及効果についての議論が行われ、日本・EU・英国での類似立法の動きとの比較も見られました。現在、全米46州でもディープフェイク規制が強化されており、連邦法との整合性や重複適用が今後の課題となりそうです。Hacker Newsでは「プラットフォームや生成AI事業者への法的責任拡大が次のステップ」という観点の議論が注目を集め、画像生成AIツールを提供する企業側への義務付けを求める声も出始めています。
今回の判決は、生成AI技術の悪用に対して法的制裁が実際に機能することを示す先例として、今後の関連訴訟・立法議論に影響を与えると見られます。AIツールを提供する企業にとっても、悪用防止策（フィルタリング、利用規約の整備など）の重要性が改めて問われる出来事となっています。