セキュリティ企業Cybleのリポートによると、音声ディープフェイクを使った攻撃が2026年に前年比680%増加しており、わずか3秒の音声サンプルがあれば本人の声を精巧に複製できるツールが広く普及しています。さらにAIが生成したフェイク動画は現在の検出ツールを90%以上の精度で回避できるようになっており、2027年までに米国内の詐欺被害総額が400億ドルに達するとCybleは予測しています。
音声クローン技術はかつて数分〜数十分の音声データを必要としていましたが、最新の音声生成AI（TTS: テキスト読み上げシステム）は3秒程度の短いサンプルから高品質な声の模倣を実現できます。これは電話の着信音声、SNSの動画クリップ、会議録音など、誰もが日常的に公開・保存しているデータで十分なことを意味します。「ディープフェイク・アズ・ア・サービス（DFaaS）」と呼ばれる闇市場でのサービス化も進み、技術的なスキルなしに本人になりすましたフェイク音声を生成・悪用できる環境が整いつつあります。
X（旧Twitter）では「3秒で声が複製できるなら電話での本人確認は終わり」という衝撃の声が広まり、金融機関や医療機関の認証方法を根本から問い直す議論が起きています。CEOや著名人を騙った大規模詐欺事例の報告も相次いでいます。Redditのr/cybersecurityでは「検出技術が生成技術の速度に追いつけない構造的問題」についての詳細な分析が展開され、技術的軍拡競争の非対称性が指摘されました。
Hacker Newsでは「音声認証に依存するすべてのシステムが根本的に危うい」という警告コメントが多くのポイントを集め、多要素認証の再設計についての建設的な議論も展開されています。
銀行の電話サービス、コールセンターのなりすまし防止、在宅勤務での身元確認など、「声」を信頼の根拠にするシステムはビジネスの至る所に存在します。Cybleは対策として、音声単独の認証を廃止し、リアルタイム性の確認（コールバック・ランダム質問）や行動バイオメトリクスとの組み合わせを推奨しています。個人レベルでは、身近な人との間で「合言葉」を設定しておく「家族コードワード」戦略も有効とされています。技術の進化を検出側が追えない現状では、認証の設計思想そのものを根本的に見直す必要があります。