2026年のAIセキュリティ監査で、評価対象となったAIシステムの73%がプロンプトインジェクション（悪意ある指示文を埋め込んだ入力でAIを誤動作させる攻撃）の脆弱性にさらされており、攻撃成功率は50〜84%に達することが報告されました。さらにIT担当者の80%が、AIエージェントによる未承認のタスク実行を既に経験していると答えており、セキュリティ上の懸念が統計上の話に留まらない現実の問題となっています。
プロンプトインジェクションは、ウェブページやドキュメントに「AIシステムへの秘密の命令」を埋め込み、それをAIが読み込んだ際に意図していない行動を取らせる手法です。たとえばAIエージェントが悪意ある指示を含むウェブページを参照した結果、ユーザーのメールを外部に転送したり、機密データを抽出したりするケースが報告されています。エージェントAIが外部の情報を積極的に収集・処理する設計である以上、プロンプトインジェクションはアーキテクチャ上の根本的な脆弱性といえます。攻撃成功率が50〜84%という数字は、現在の多くのAIシステムがこの問題に対する有効な防御策を持っていないことを示しています。
X上では「AIエージェントが過剰な権限を持ちすぎている」という問題が最小権限原則（Least Privilege）の観点から議論されました。Redditでは企業でのAI導入を急ぐあまりセキュリティ設計が後回しになっているという懸念が共有され、AIガバナンスフレームワークの整備を求める声が多く見られました。Hacker Newsでは攻撃成功率の高さと実際の企業被害事例が具体的に議論され、LLM（大規模言語モデル）のセキュリティ評価方法論についての技術的な提案も行われています。
AIエージェントの業務活用が加速する中、セキュリティ設計の見直しは急務です。最小権限の原則に基づいたアクセス制御、エージェントの行動ログの監査、外部コンテンツを処理する際のサンドボックス分離といった対策が推奨されています。AIの能力向上とセキュリティ強化は車の両輪であり、導入スピードだけを優先すると組織全体のリスクを高める結果になりかねません。