15人死亡のテロ、そして歪曲された英雄

昨年12月14日、オーストラリアのシドニー・ボンダイビーチで発生した銃撃テロは、ユダヤ教のハヌカ祭を狙ったものでした。2人の銃撃犯が乱射した銃弾により、少なくとも15人が死亡し、数十人が負傷しました。現地警察はこれをテロ攻撃として正式に宣言しました。

混乱の中、ある男性が銃撃犯のライフルを素手で制圧する映像が公開されました。シリア出身の移民で果物店のオーナーである**アフメド・アル・アフメド(Ahmed al Ahmed)**でした。彼の勇気は当局と主要メディアによって検証され、世界中に広まりました。

しかし、それと同時に、全く異なる物語がインターネットを通じて拡散されていきました。

AIが作った偽記事の誕生

テロ発生から数時間後、オーストラリアのメディアを装った「The Daily」というウェブサイトに1つの記事が掲載されました。「主任犯罪専門記者レベッカ・チェン(Rebecca Chen)」が書いたこの記事は、英雄の名前を**エドワード・クラブトリー(Edward Crabtree)**と紹介しました。

記事は彼を43歳のIT専門家として描写し、病床で行った「独占インタビュー」だと主張しました。「土曜日の午後、ボンダイのアパートを出ていつものようにビーチを散歩していた際、自分が武装テロリストと遭遇することになるとは思わなかった」といった詳細な記述が含まれていました。

この虚偽情報はソーシャルメディアを通じて急速に拡散され、さらには**X(旧Twitter)のAIチャットボットGrok(グロック)**もこの誤情報をそのまま繰り返しました。ユーザーが「英雄は誰か」と尋ねると、Grokはクラブトリーという名前を回答として提示しました。

ファクトチェックが明らかにした捏造の痕跡

ベルギー公共放送RTBFのファクトチェックチーム「Fakey」が「The Daily」ウェブサイトを調査した結果、複数の手がかりが検出されました。

• 記者のプロフィール写真が更新するたびに変わりました。 AI生成画像の典型的な特徴です。
• ドメイン登録情報を確認した結果、該当URLはテロ当日に作成されていました。 ドメイン照会サイトWhoisを通じて確認された事実です。
• ドメイン所有者情報はレイキャビクのプライバシーサービスの背後に隠されていました。

これらすべての証拠は、「The Daily」がAIを活用して急造された偽ニュースサイトであることを示唆しています。実際のメディアを模倣したサイトは、テロ直後の混乱を利用して虚偽情報を流布したのです。

Grok、検証済み映像まで偽物と判断

問題は英雄の名前だけではありませんでした。ドイツ公共放送ZDFのファクトチェックチームは、Grokが犯したもう1つの誤りを追跡しました。

検証済み映像の真偽を問うユーザーに対し、Grokはこう答えました:「これは駐車場でヤシの木を剪定していた男性が枝を落として車両を損傷させた古いバイラル動画のようです。検証された場所、日付、負傷者情報はありません。演出の可能性があり、真偽は不確実です。」

この映像は複数のメディアによって検証され、当局も正式に確認した資料でした。しかしAIはこれを偽物と判断したのです。

なぜこのようなことが繰り返されるのか

今回の事件は、**大規模言語モデル(LLM)**の根本的な限界を露呈しています。AIはリアルタイムで流れ込む情報を検証する能力がありません。単にインターネット上で最も多く言及された内容を「事実」と見なすだけです。

テロ直後の混乱の中、AIが生成した偽記事が素早く拡散されると、Grokはこれを「多数意見」として受け入れました。検証された事実よりも多く拡散された嘘が、AIには真実のように見えたのです。

また今回の事件は、アイデンティティ捏造の政治性も示しています。実際の英雄はシリア出身の移民でしたが、偽記事は彼を西洋風の名前を持つ白人IT専門家に仕立て上げました。誰かが意図的に移民の英雄的行動を消そうとした可能性が高いです。

ソーシャルメディア時代の情報戦争

欧州放送連合(EBU)スポットライトネットワークのマリア・フラナリー記者は、今回の事件を通じて「危機的状況において偽情報がいかに速く広まるか」を示していると指摘しました。

テロ発生後わずか数時間でAI生成記事が作られ、ソーシャルメディアを通じて拡散され、さらにはAIチャットボットまでこれを繰り返すという悪循環が発生しました。伝統メディアがファクトチェックを完了する前に、すでに数百万人が虚偽情報にさらされたのです。

今後の展望 [AI分析]

今回の事件は、今後さらに巧妙化する可能性が高いです。生成AIテクノロジーが発展するほど、偽ニュースサイトを作るコストはさらに低下するでしょう。 ドメイン登録から記事作成、画像生成まで、すべてが自動化される可能性があります。

同時に、AIチャットボットの信頼性問題も継続するでしょう。GrokのようなAIツールはユーザーに「検索エンジンの代替」として認識されていますが、リアルタイムの事実検証能力は依然として不十分です。これは危機的状況でさらなる混乱を引き起こす可能性があります。

結局、デジタルリテラシー教育がより重要になる見込みです。情報源の確認、クロス検証、一次資料の追跡といった基本的な情報検証能力が個人レベルで必須となるでしょう。プラットフォームレベルでの規制も強化される可能性が高いですが、技術発展のスピードに追いつくのは容易ではないと見られます。