AIが作った「ムスリム候補」――総選挙前の野党標的

インドの与党インド人民党（BJP）アッサム州公式アカウントが今年2月に投稿した動画には、アッサム州首相ヒマンタ・ビスワ・サルマ氏がイスラム帽（スカルキャップ）をかぶった2人の男性の画像に向かって銃を撃つ場面が映っていた。「外国人のいないアッサム」「なぜパキスタンへ行かなかったのか」というテキストが重ねられていた。

標的の一人はヒンドゥー教徒の野党議員ガウラブ・ゴゴイ氏だったが、動画内の彼はAIで合成されたスカルキャップ姿にコーランを持つ姿に改ざんされていた。動画はその後削除された。

499件の投稿を分析、39%がヘイトスピーチ相当

調査報道機関ベリングキャット（Bellingcat）は、昨年12月から今年初めにかけてアッサムと西ベンガルのBJP公式アカウントに投稿された499件を分析した。194件（約39%）が国連のヘイトスピーチ定義に該当し、そのうち31件でAI生成画像の明確な使用が確認された。両州はバングラデシュと国境を接しており、アッサムでは4月9日、西ベンガルでは4月23日に州議会選挙が予定されていた。

世界に広がる「AI選挙ヘイト」の連鎖

ニューヨーク市長選ではクオモ候補陣営がAI動画を投稿・削除、イタリアではサルヴィーニ副首相の政党が有色人種男性が女性を攻撃するAI画像を拡散、英国では極右団体資金のAIラッパーがムスリムを標的にした歌詞で数百万再生を記録するなど、類似の手法は世界各地で繰り返されている。

今後の展望 [AI分析]

生成AIによる選挙干渉を防ぐ法的枠組みが整備されなければ、同様のパターンが今後の選挙でも繰り返される可能性が高い。AI生成コンテンツの検出技術と生成技術の競争の行方が、民主主義選挙の公正性を左右する鍵になりうる。