米商務省傘下のCAISI（AI安全・革新センター）は、Google DeepMind、Microsoft、xAIとの間でAIモデルの公開前評価に関する協定を締結しました。Anthropicの「Claude Mythos」が示したサイバーセキュリティ上のリスクを受け、これまでAI規制に消極的だったトランプ政権が大きく姿勢を転換させた形です。
CBCNによれば、この協定の下でCAISIは分類された（機密扱いの）環境において各社のAIモデルをテストし、国家安全保障上のリスクを評価します。Claude Mythosが83%以上のケースで初回からエクスプロイトを生成できることが判明したことが、この政策転換の直接的な引き金となっています。X（旧Twitter）では「AIの安全審査が現実のものとなった」という驚きが広がる一方、「政府による検閲の入り口」と懸念するAI自由主義者の声も根強く、対立する議論が続いています。
注目すべきはAnthropicがこの協定に含まれていないことです。r/artificialでは「Claude Mythosショック以降のトランプ政権の急転換は驚異的」という意見が多く、AnthropicがBlacklist（制裁対象リスト）に残ったまま審査協定にも参加していないという矛盾を指摘するスレッドが注目を集めました。
Hacker Newsでは、CAISIの審査プロセスが技術革新を遅らせるリスクについての懸念と、安全なAI展開のために不可欠な措置だという支持論が、真っ向から対立する長大な議論を形成しました。NISTなどの標準化機関がどの程度関与するかも今後の焦点で、審査の透明性と中立性をどう担保するかが問われます。
AIが安全保障インフラを脅かしうるほどの能力を持ち始めた現在、今回の協定はAIガバナンスの歴史における重要な節点となりそうです。