OpenAIが日本の首相への支持を弱体化させようとしたChatGPTアカウントをバンした。調査の結果、このアカウントが中国法執行機関と関連していることが判明。この事件は、AI技術を悪用した国家レベルの影響力工作の実態を明らかにした。
OpenAIは2026年2月、中国法執行機関に関連するChatGPTアカウントをバンしたことを発表した。このアカウントは、日本の首相に対する支持を弱体化させるために同社のAIチャットボットを悪用しようとしていた。
ターゲットとなった日本の首相は、日本初の女性首相である高市早苗氏で、中国共産党が内モンゴルで人権を踏みにじっていると批判したことがきっかけとなった。
悪用の試みとして、ユーザーはモデルにスミアキャンペーン（中傷活動）の計画を手伝うよう依頼した。プロンプトの中には、ソーシャルメディアで彼女についての否定的なコメントを投稿・拡散すること、外国人居住者を装った偽のメールアカウントを使用して他の日本の政治家に高市氏への苦情を送ることなどが含まれていた。ChatGPTはこのキャンペーンの精緻化を拒否した。
より大規模な工作の発覚として、バンされたアカウントはより大規模な工作を明らかにした。この法執行機関ユーザーは、単一の中国の省だけで少なくとも300人のオペレーターが同様の工作を行っており、他の報告に基づくと他の場所でも同様の数がいると主張するレポートを提出した。工作員はまた、世界中の著名な中国人反体制派もターゲットにしていた。被害者には人気のXアカウント「Teacher Li」、活動家Hui Bo、人権団体Safeguard Defendersが含まれていた。
工作の追跡として、ユーザーは数週間後に戻り、キャンペーンが（おそらく中国でローカルにホストされたAIモデルを使用して）進行したことを示すレポートを更新した。OpenAIの研究者はこれらをX、Blogspot、人気の日本のオンラインアーティストコミュニティPixivの投稿まで追跡した。