DeepMindは2026年、2つのAIモデルが対立する観点から議論し、小型の「審判モデル」がその結論を評価するハイブリッド型スケーラブル監視システムを本番環境に展開したと報告しました。安全性に関わる複雑な判断において、人間の専門家パネルの結論と95%の一致率を達成したとされており、AI安全性研究における実用的な進展として注目されています。
スケーラブル監視（Scalable Oversight）とは、人間が直接評価するのが難しい複雑なタスクや判断に対して、AIの助けを借りながら品質評価を維持する手法の総称です。DeepMindのアプローチでは、2つのモデルが意見の対立する立場でそれぞれ主張を展開し（討論形式）、より小型・シンプルな審判モデルがどちらの論拠が優れているかを判定します。この方式により、単一モデルの評価より偏りが少なく、人間が見落としやすい微妙な問題点も検出しやすくなるとされています。
X（旧Twitter）では「AIが別のAIを監視する手法がスケールする可能性を示した」として安全性研究者から注目を集めました。r/MachineLearningでは「95%一致というが残り5%の失敗がどこで起きるかが重要」という批判的検討スレッドが活発に展開されており、Hacker Newsでは「人間の監視をAIに代替させる試みの倫理的・実用的課題」についての議論がトップに並びました。特に「残り5%の誤判断が安全性において最も重要なケースに集中していないか」という指摘は、実用展開における本質的な懸念として議論されています。
将来的にAIの能力が人間の判断能力を超えた際、人間だけで全ての判断を評価することは現実的に不可能になります。DeepMindのこの手法はそのための準備段階として位置づけられており、同様のアプローチはAnthropicやOpenAIも研究を進めています。AIが安全に自律性を拡大していくための基盤技術として、今後の精度向上と透明性確保が求められます。