AIモデルの内部動作を解明する「機械的解釈可能性（Mechanistic Interpretability）」が、MIT Technology Reviewの2026年ブレークスルー技術トップ10に選出されました。この手法はAIモデル全体にわたる重要な特徴とその経路をマッピングし、いわば「AIの脳スキャン」のようにモデル内部の活性化パターンを可視化します。
2024年、AI企業Anthropicが大規模言語モデルClaudeの内部を覗く「顕微鏡」のようなツールを構築し、「マイケル・ジョーダン」や「ゴールデンゲートブリッジ」といった認識可能な概念に対応する特徴を特定したと発表しました。このツールにより、研究者は特定の活性化が辿る経路を追跡でき、欺瞞や事実想起などの振る舞いを担う特定の回路を同定できるようになっています。AIの内部を理解することで、デプロイ前に危険な能力や欺瞞的な傾向、ミスアラインメントされた目標を検出できる可能性があり、安全性と整合性の向上に直接貢献します。
Hacker Newsでは「AIの『ブラックボックス』問題解決への重要な一歩」として歓迎する声が多く、セーフティ研究への貢献が期待されています。一方で「『特徴』の厳密な定義がない」「計算複雑性の壁がある」「実用的手法がまだ安全関連タスクで単純なベースラインを下回る」といった課題も指摘されており、進歩と限界が共存する分野であることが浮き彫りになっています。