セキュリティプラットフォームのHackerOneは、AIシステムを対象とした「エージェント型プロンプトインジェクションテスト」機能を発表しました。HackerOneのプラットフォームデータによると、有効なプロンプトインジェクション報告が前年比540%増加しており、40%の組織がすでにプロンプトインジェクション、ジェイルブレイク、ガードレール回避を経験しているとのことです。
新機能は、自動化されたエージェント駆動のエクスプロイトテストと、セキュリティ研究者コミュニティによる敵対的テストを組み合わせています。単純なフィルタリングツールを超えて、システムアーキテクチャ全体を評価する点が特徴です。検査対象として、RAG（検索拡張生成）パイプラインを通じた間接的インジェクション、ツール呼び出しチェーン、エージェントワークフローが含まれ、実際の悪用可能性を検証して重大度評価付きの再現可能な攻撃トレースを生成します。
テスト結果は、OWASP Top 10 for LLM Applications、MITRE ATLAS、NIST AI Risk Management Frameworkなどの業界標準フレームワークにマッピングされます。X上では、Anthropic、IBM、Adobeなどの大手企業がすでに導入しているとの報告があります。Hacker Newsでは、間接的プロンプトインジェクション（隠し命令）攻撃経路の検出機能が高く評価されています。
プロンプトインジェクションは、本番AIシステムで最も急速に成長している攻撃ベクトルとなっています。個々の疑わしいプロンプトをフラグ付けするのではなく、「デプロイされたAIアーキテクチャ全体で悪用可能性を証明する」システムレベルのテストにより、チームは防御可能なエビデンスに基づいて修復の優先順位を決定できるようになります。エンタープライズAI導入が加速する中、セキュリティ対策の重要性がますます高まっています。