OpenAIは、生成AIを活用してSNSで世論誘導をおこなう活動グループのアカウントを特定し、削除しました。
OpenAIがイランなどを拠点とした政治活動アカウントを削除
ChatGPTなどの生成AIを開発するOpenAIは、政治的な世論操作を目的とした5つの活動グループを特定し、アカウントを停止したと発表しました。
そのグループは、以下の5つです。
- International Union of Virtual Media（イラン）
- Bad Grammer（ロシア）
- Doppelganger（ロシア）
- Spamouflage（中国）
- Zero Zeno（イスラエル）
主にSNSのプロフィール、プロフィール画像、投稿内容などの生成に、OpenAIが使用されていたとのことです。
OpenAIの開発支援をおこなっているマイクロソフトは、2024年11月に予定されているアメリカ大統領選挙に向けて、工作活動が活発になっていることを警告していました。
その調査を受けて、今回のアカウント停止につながりました。
またその他に、軍事行動やハッキングにもOpenAIが利用されていることが確認されており、対応が検討されています。
OpenAI Disrupts Iranian Covert Influence Campaign（Iran International）
OpenAI shuts down accounts linked to 5 nation-state hacking groups（The Record）
選挙とSNSと生成AI
SNSが選挙に大きく影響するようになった、または秘密裏にSNSが利用されるようになったのは、2016年のアメリカ大統領選挙（ドナルド・トランプ氏が当選）と言われています。
以後、日本を含め世界中の選挙で、SNSが大きな舞台となっています。国内だけでなく、国外からの工作も多く、現在の戦争の最前線はSNSにあるとまで言われています。
昨年あたりからそこに生成AIが加わるようになり、国家レベルで世論を奪い合う戦いとなっています。
