Google・Microsoft・xAIは5月5日、米国政府に対してAIモデルのリリース前アクセスを提供することで合意したと発表しました。米商務省がモデルの能力評価とセキュリティ改善を実施できる体制が整備され、対象はGoogle DeepMind・Microsoft・xAI・Anthropic・OpenAIの5大AIラボ全体に拡大されています。今後、新モデルが一般公開される前に政府機関が実際にアクセスして評価を行えるようになります。
この取り組みは自主的な協力に基づくものであり、現時点では法的拘束力を持つ規制ではありません。商務省は評価結果を非公開で保持し、セキュリティ上の懸念があればラボ側にフィードバックする仕組みとされています。米国がEUのAI法のような包括的な法規制を持たない中、主要ラボとの「自主協定」によって実質的な監視体制を構築しようとする試みと言えます。一方で商務省がAIを技術的に評価するだけの専門能力を持っているかという疑問や、国防総省への優先アクセス提供がAIの軍事利用につながるのではないかという懸念も示されています。
X（旧Twitter）では「政府によるAI監視の第一歩」と歓迎する声と「自主的協力に留まっておりまだ弱い」という両論が拮抗し、防衛利用への懸念も上がっています。Redditのr/AIpolicyでは「国防総省への優先アクセス提供がAI軍事利用の懸念を高める」という批判的スレッドが注目を集めました。Hacker Newsでは「商務省がAIを評価する技術的能力を本当に持っているのか」という懐疑的な議論が人気コメントに並んでいます。
AIの能力が急速に拡大する中、リリース後ではなくリリース前の評価体制を持つことは安全保障上の意義があります。しかし実効性は評価者側の能力と評価基準の透明性にかかっており、自主協定から法的枠組みへとどう発展させるかが今後の課題です。