トランプ政権がAIセキュリティに関する行政命令の策定を進めていることが、Bloomberg紙の報道で明らかになりました。FDAのような事前承認制度の検討も含まれる一方、複雑なモデルの安全性検証は任意扱いとする方針で、義務的なテスト要件は含まない見通しです。Anthropicの内部モデル「Mythos」が示した危険な能力が、この政策検討を加速させた直接的なトリガーとなっています。
行政命令の草案では、AIモデルの開発者に対してセキュリティリスクの自己申告や政府機関との情報共有を求める方向性が含まれると報じられています。ただし、医薬品や航空機の安全審査と同様に政府機関による事前承認を義務づける制度については、AI技術の急速な発展に規制が追いつかないリスクや、イノベーションを阻害するとの懸念から、強制力を持たない形での検討にとどまる可能性が高いとされています。
X上では「任意テストでは不十分で、Mythosモデル問題を受けて強制力ある規制が必要」という声が多数上がっています。r/artificialでは「革新を妨げない規制」と「安全性の確保」という二つの目標を両立させることの難しさが議論されており、研究者コミュニティでは意見が大きく二分しています。Hacker Newsでは、事前審査制度が既存の大手AIベンダーを優遇し、スタートアップや新規参入者を不当に排除する寡占化リスクを指摘する声が目立っています。
AIの規制をめぐっては、EU AI法のような包括的な法的枠組みを持つ欧州と、産業振興を優先してきた米国の姿勢の差が依然として大きい状況です。今回の行政命令は米国がどの程度本格的な安全規制に踏み込むかの試金石となります。詳細は今後数週間以内に公表される見込みです。