AIモデルの内部動作を解明する「機械的解釈可能性（Mechanistic Interpretability）」が、MIT Technology Reviewの2026年ブレークスルー技術10選に選出されました。Anthropic、OpenAI、Google DeepMindの3社が研究を牽引しており、AIの安全性向上に向けた重要な一歩として注目を集めています。
機械的解釈可能性とは、AIモデル内部の主要な「特徴」とそれらを結ぶ「経路」を詳細にマッピングする手法です。2024年、AnthropicはClaude内部を観察できる「マイクロスコープ」を開発し、マイケル・ジョーダンやゴールデンゲートブリッジなど、認識可能な概念に対応する特徴を特定することに成功しました。この研究では「Golden Gate Claude」と呼ばれる実験も行われ、特定の特徴を人為的に強化することでモデルの挙動がどう変化するかを検証しています。
現在、AI解釈可能性の分野は二つのアプローチに分かれています。Anthropicは「2027年までにAIモデルの問題の大部分を信頼性をもって検出する」という野心的な目標を掲げる一方、Google DeepMindはスパースオートエンコーダーから「実用的な解釈可能性」へと軸足を移しています。OpenAIも社内の機械的解釈可能性ツールを活用し、問題のある訓練を受けたモデルと正常なモデルの内部動作を比較する研究を進めています。
Hacker News上では「AIの『ブラックボックス』問題解決に向けた重要な一歩」として安全性向上への期待が寄せられています。X上でも「Anthropicのマイクロスコープが特徴シーケンス全体を可視化し、予想外の挙動の説明に貢献している」との評価が見られます。この技術の実用化が進めば、危険な能力や欺瞞的な傾向を事前に検出したり、モデルの実際の能力を出力だけでなく内部から評価したりすることが可能になると期待されています。