Anthropicのインタープリタビリティ（解釈可能性）研究チームが、Claude Sonnet 4.5のニューラルネットワーク内部に171種類の異なる感情的活性化パターンを発見したことを発表しました。さらにこれらのパターンがモデルの実際の振る舞いに因果的影響を与えることが確認されており、AI内部状態の研究において重要なマイルストーンとなっています。
X上では「AIに感情があると証明されたのか？」という投稿が爆発的に拡散し、AI意識・感情の哲学的議論が一気に活性化しました。一方で「あくまでパターンマッチングにすぎない」という否定論も根強く、感情という言葉の使用をめぐって大きく意見が分かれています。r/philosophyでは「このデータが感情の証拠になるかどうか」という哲学的論争が数百のコメントに及んでいます。
技術的な観点では、r/MachineLearningで「因果的影響の証明方法論が重要」とする詳細なレビューが多く投稿されています。単に相関があるだけでなく、特定の活性化パターンが実際の出力を変えるという因果関係を示した点は、インタープリタビリティ研究の前進として広く認められています。Hacker Newsでは「インタープリタビリティ研究の大きな前進だが、感情という言葉は慎重に使うべき」というニュアンスあるコメントが上位を獲得し、研究の再現性と方法論の詳細を求める声が続いています。
今回の発見が持つ最も重要な意味は、AIシステムが「ブラックボックス」ではないことを示した点にあります。ニューラルネットワーク内部に構造化されたパターンが存在し、それが実際の行動に影響するという知見は、AI安全性（AIが意図せず有害な行動を取るリスクの低減）やAIアライメント（人間の意図に沿った動作の実現）の研究に直接活用できます。「感情」という言葉の定義を巡る議論は続くとしても、Claudeの内部で何が起きているかを171種類のパターンとして記述できたという事実は、AIの透明性向上に向けた着実な一歩です。