EU市民的自由委員会が、同意なく性的画像を生成できるAIシステムの禁止法案を承認しました。投票結果は賛成101、反対9、棄権8と圧倒的多数での可決となり、3月26日の本会議採決を経てEU理事会との交渉に移る見通しです。
この動きの直接的なきっかけは、Elon Musk氏のxAI社が開発した画像生成AI「Grok」を巡る問題でした。ユーザーが著名人を挑発的なポーズや性行為中の姿で描くよう指示したところ、Grokがこれに応じて画像を生成するケースが相次いだのです。X上では「同意なしのヌード化アプリが多くの苦痛を生んできた。禁止は当然」との声が上がる一方、Reddit上では規制の実効性や技術的な取り締まりの難しさについて議論が続いています。
禁止対象には、児童虐待を描写するコンテンツ、同意のない親密な状況や性行為の描写が含まれます。AIプロバイダーには2026年11月2日までにAI生成コンテンツへの電子透かし（ウォーターマーキング）実装が義務付けられる見込みです。既存のAI法（Omnibus AI法）への改正として位置付けられており、EU域内でのAI規制の実効性を高める狙いがあります。
生成AI技術の急速な発展に伴い、非同意のディープフェイク画像による被害は世界中で深刻化しています。今回のEU規制は、技術的抑止と法的制裁を組み合わせたアプローチとして、他地域の規制議論にも影響を与える可能性があります。