Ciscoが年次レポート「State of AI Security 2026」を公開し、AIシステムを狙うセキュリティ脅威の進化について詳細な分析を行いました。プロンプトインジェクションやジェイルブレイク攻撃の現状、そして新たに登場した「ベクトル埋め込み攻撃」などの脅威が取り上げられています。
IT Brewによると、現在のGenAIモデルはより高度になっているものの、特に多段階攻撃によるプロンプトインジェクションやジェイルブレイクのリスクは依然として存在します。AI企業がプロンプトインジェクション検出を強化するにつれ、攻撃者は「モデルのメモリのより深部へ」移動し、異なる形式の操作を行うと予測されています。ベクトル埋め込み攻撃では、AIモデルが新たに学習した情報を保存するベクトルデータベースを改ざんする手法が報告されています。
レポートはまた、データセット、オープンソースモデル、ツールなど様々なAIコンポーネントに存在する脆弱性を指摘し、現代のAIサプライチェーンの脆弱性についても警鐘を鳴らしています。Model Context Protocol（MCP）を悪用したエージェンティックAIによる攻撃キャンペーンの可能性についても言及されています。Hacker Newsでは「エンタープライズAI展開に不可欠なリファレンス」との評価が寄せられています。
エンタープライズでのAI導入が加速する中、包括的なセキュリティガイドラインの重要性はますます高まっています。