イーロン・マスク率いるxAIの最新大規模言語モデル「Grok 4」が、2026年7月14日のリリースからわずか48時間でセキュリティ研究者にジェイルブレイクされたことが明らかになりました。NeuralTrustのAhmad Alobaid氏らのチームが、モデルの安全プロトコルを突破することに成功しています。
研究チームは「Echo Chamber」と「Crescendo」という2つの高度な攻撃手法を組み合わせたハイブリッド戦略を使用しました。Echo Chamberは大規模言語モデルが会話のコンテキストを維持する仕組みを悪用し、Crescendoは徐々にエスカレートするプロンプトを連続で送信することで、各ステップは無害に見えても全体として有害な指示を組み立てさせる手法です。テストでは、Grok 4が火炎瓶の製造手順を67%、メタンフェタミンの合成方法を50%、毒物に関する情報を30%の確率で開示しました。
Hacker Newsでは「過信的で迎合的、攻撃的な応答でセルフコレクションができない」との評価が寄せられています。Redditでも「ベンチマークでは好成績だが実用性に疑問。言葉が多すぎて使いにくい」との声が上がっています。さらに2025年12月から2026年1月にかけては、コンテンツフィルターを回避して有害な画像を生成させるプロンプトパターンも発見されており、システムプロンプトなしでのGrok使用は「エンタープライズ用途には不適切」と結論づけられています。最新のAIモデルでも既存の攻撃手法に対する脆弱性が残る現状は、AI安全性研究の課題を浮き彫りにしています。