EU議会の市民的自由委員会は3月19日、非同意のAI生成性的画像を禁止する法案を101対9（棄権8）の圧倒的賛成多数で承認しました。この禁止措置は、イーロン・マスク氏のXプラットフォーム上で利用可能なGrokチャットボットが実在人物の性的ディープフェイクを大量生成したことへの国際的な批判を受けて加速したものです。
今回の規制は、いわゆる「ヌード化アプリ」を主な対象としており、児童虐待コンテンツや同意のない性的・親密な場面を描写するAIシステムの使用を禁止します。ただし、「効果的なセキュリティ対策」を実装したシステムは例外として認められる可能性があります。一方で、描写された人物が同意しているかどうかをAIシステムがどのように検証できるのかは不明確なままだと専門家は指摘しています。
X（旧Twitter）上ではGrokのディープフェイク機能への批判が直接的なきっかけになったとの声が上がっています。Xは1月に「ゼロ・トレランス」方針を発表し対策を実施したとしていますが、被害はすでに拡大した後でした。Hacker Newsでは、高リスクAIシステムの適用期限も延長され、スタンドアロン型は2027年12月、製品組込み型は2028年8月が新たな期限になると報告されています。また、AI提供者に対するウォーターマーク義務化の期限も、当初予定の2027年2月から2026年11月2日に前倒しされました。
本会議での最終採決は3月26日に予定されており、可決されれば加盟国との最終交渉に入ります。緑の党のキム・ファン・スパレンタク議員は「これは特にヨーロッパの女性と子どもにとって大きな勝利です」とコメントしています。