OpenAIは6月、AI悪用事例の最新報告書を公開しました。中国系の国家支援グループを含む複数のアクターがプロパガンダコンテンツの大量生成・精巧なフィッシング詐欺・オンライン影響力工作にChatGPTを積極的に活用していた実態が明らかになっています。同社はAI悪用の検知・遮断において一定の成果を上げていることも示しましたが、その監視体制は全会話の把握を前提とするアーキテクチャに依存しており、新たなプライバシー上の懸念も浮上しています。
報告書によると、国家支援グループによるChatGPTの悪用は大きく3つのパターンに分類されます。第一は、特定の政治的立場に沿ったコンテンツを大量・高速で生成するプロパガンダ工作。第二は、ターゲットの行動パターンや言語的特徴を分析した上での精巧なソーシャルエンジニアリング詐欺。第三は、ソーシャルメディア上での世論誘導を目的とした偽アカウントの大規模運用です。OpenAIはこれらのアカウントを停止したとしていますが、検知を逃れたケースの存在も示唆しています。
「透明性の高い報告は評価できるが、AIが国家レベルの情報戦に組み込まれている現実に戦慄する」という反応がX上で広がり、AIプロバイダーの責任論が再燃しています。Reddit の r/artificial では「悪用を防ぐために全会話を監視すること自体がプライバシーのリスク」というジレンマを指摘する投稿がトップスレッドとなりました。Hacker News では「報告書は成功事例として描かれているが、同時にAIチャット会話が全て監視可能であるという告白でもある」というコメントが多くの支持を得ており、安全性とプライバシーのトレードオフに対する根本的な問いを投げかけています。
今回の報告書は、生成AIが情報戦の道具として既に実戦投入されていることを公式に認めるものとなりました。AIプロバイダーが悪用を防ぐほど監視を強化すれば、正規ユーザーのプライバシーも制限されるという本質的な矛盾は、技術的手段のみでは解消できません。政府・研究機関・市民社会が連携した包括的なガバナンスの枠組みが求められています。