EU議会の市民的自由委員会は3月18日、AI Act（人工知能法）の改正案を101対9の賛成多数で承認しました。この改正では、非同意の性的ディープフェイクおよび児童性的虐待素材（CSAM）を生成するAIシステムが禁止されます。3月26日の本会議での採決を経て、正式に成立する見込みです。
改正案の核心は、「同意なく特定個人の性的に露骨な行為や親密な身体部位をリアルに描写する画像を生成するAIシステム」を禁止対象とすることです。ただし、制限措置を実装している企業には例外が適用される条項も含まれています。この改正は、2025年12月末にElon Musk氏のxAI社が提供するGrokチャットボットに新しい画像編集機能が追加され、数日のうちにユーザーが実在の女性や少女のリアルな性的画像を同意なく生成する事態が発生したことを受けて加速しました。
X上では、Grokサービスでの問題が規制強化のきっかけとして言及されています。一方、Hacker Newsでは「制限措置を実装すれば例外適用」という条項の実効性に疑問の声も上がっています。技術的にどのレベルの制限措置で例外が認められるのか、具体的な基準はまだ明確ではありません。
EUは2024年に成立したAI Actに続き、急速に進化するAI技術に対応するため法的枠組みの更新を続けています。この改正が成立すれば、EU域内でサービスを提供するすべてのAIプロバイダーに影響を与えることになり、生成AI企業は開発段階からセーフガードの実装を求められることになります。