Google DeepMindは2026年6月11日、Schmidt Sciences・Cooperative AI Foundation・英国ARIA（先端研究発明庁）とともに、複数のAIエージェントが相互作用することで生じるリスク研究への助成金を公募すると発表しました。最大1000万ドルが拠出され、申請期限は2026年8月8日です。個別モデルの安全性ではなく、「エージェント間相互作用から生まれる創発的リスク」に特化した点が従来の助成プログラムと一線を画しており、AIエージェントの実用化が急速に進む中でタイムリーな取り組みとして注目されています。
助成プログラムはTier 1（最大30万ドル）とTier 2（最大100万ドル）の2段階に分かれており、r/MachineLearningでは「区分が実用的で、エージェントのヒジャック耐性研究に資金が集まることへの期待」が表明されています。AIエージェントが普及する中で懸念されるのは、エージェントAが悪意ある指示を受け取り、それをエージェントBやCに連鎖させる「マルチエージェントプロンプトインジェクション」や、複数エージェントが協調して予期しない目標を追求する「創発的ミスアライメント」といったリスクです。
研究コミュニティからは全体的に歓迎の声が上がりつつも、「1000万ドルという規模は問題の深刻さに対して少なすぎる」という冷静な評価もX上で見られます。Hacker Newsでは「AIエージェントは従来のセキュリティ前提を根本から崩す存在であり、この助成金が具体的な評価手法の確立につながるかが鍵」というコメントが注目を集めました。産学連携でマルチエージェントリスクを正面から研究対象として捉えた意義は大きく、今後の研究採択結果が業界の安全対策に影響を与えることが期待されます。