MIT Technology Reviewは、AIモデルの内部動作を理解するための研究分野「機械的解釈可能性（Mechanistic Interpretability）」を2026年の10大ブレイクスルー技術の一つに選出しました。この技術は、大規模言語モデルの「ブラックボックス」を開き、AIがどのように判断を下しているかを可視化することを目指しています。
機械的解釈可能性の研究は、LLMを従来のエンジニアリングツールとしてではなく、脳スキャンのように「観察と探査」で理解しようとするアプローチです。2024年にはAnthropicが、自社モデルClaudeの内部を覗き込む「顕微鏡」を開発し、「マイケル・ジョーダン」や「ゴールデンゲートブリッジ」といった認識可能な概念に対応する特徴を特定することに成功しました。研究者らはモデル内部の活性化が辿る経路を追跡するツールも開発しており、これにより毒性のあるペルソナの特定や予期せぬ動作の調査が可能になっています。
Hacker Newsでは「Anthropicがプロンプトから応答への経路を追跡する研究を発表。OpenAI・DeepMindも同様の手法で予期せぬ動作を説明している」と報じられています。Redditでも「AIの『思考過程』を理解する重要な一歩であり、安全性研究の基盤技術になる」との評価が寄せられています。ただし、2025年1月に18組織・29人の研究者が発表した共同論文では、「特徴」の厳密な定義が欠如していることや、計算複雑性の問題、安全性に関連するタスクでは単純なベースラインにすら及ばないケースがあることなど、根本的な課題も指摘されています。