涙を流す兵士——しかし実在しない人物

雪と氷に囲まれた屋外で、米軍の制服を着た女性がカメラに向かって語りかける。「お母さん、お父さん、元気です。心配しないで。ここは極寒で体がびしょ濡れだけど、アメリカ国民の安全のために踏ん張っています。フォローしてくれますか?」——この人物は実在の兵士ではない。人工知能（AI）が作り出した架空の存在だ。

こうした映像がソーシャルメディア全体に広がっている。複数の外国メディアの調査によると、TikTok・Facebook・YouTubeにおいてAI生成の米兵映像を主に投稿するアカウントが少なくとも11件確認され、合計フォロワー数は17万4000人超、総再生回数は2960万回に達した。「AI生成」と明記している動画でさえ、コメント欄を見ると多くの視聴者が本物と信じている実態が明らかになった。

なぜ重要なのか

この現象の核心は経済的インセンティブにある。感情を刺激する映像はバイラルになりやすく、ソーシャルメディアの収益分配プログラムを通じて制作者に直接的な金銭的報酬がもたらされる。一部のアカウントは視聴者を外部のショッピングサイトへ誘導したり、個人情報を収集するために悪用している。

軍人家族への被害は現実的だ。非営利団体「軍人家族諮問ネットワーク（Military Family Advisory Network）」のCEO、シャノン・ラズサディン氏は「これらの動画は現実を反映していないシナリオを提示することで不安を高め、すでに多くの不確実性に直面している家族の恐怖を深める」と述べた。「We the Veterans & Military Families」のメアリー・ベネット・ドティ副局長も、こうしたコンテンツが社会的分断を深める可能性があると警鐘を鳴らした。

イランとの戦争で4月15日時点で米兵13人が戦死している状況で、偽の感情コンテンツの拡散は特に敏感な問題となっている。

いつから続くトレンドなのか

AIを利用した兵士なりすまし映像は新しい現象ではない。ロシア・ウクライナ戦争でも類似のディープフェイク映像が拡散し、現在のイラン紛争でも同じパターンが繰り返されている。生成AIの急速な進化がこの現象を構造的に加速させた。かつては本物らしい偽人物を作るのに高度な技術が必要だったが、今では誰でも簡単にアクセスできるAIツールで数分以内に説得力のある映像を制作できる。

調査では、これらのアカウントに一貫したパターンが見られた。単一の背景とスクリプトを繰り返し再利用し、女性兵士のみまたは男性兵士のみを投稿することでターゲット視聴者を細分化している。「US Soldier Legacy」は戦闘機の騒音と煙を背景に女性が泣く映像を、「Usa Soldier Life」は星条旗で覆われた棺の前で男性が戦友を悼む映像を投稿し、76万4000回以上の再生を記録した。一部のアカウントは「家族への最後のメッセージ」という文言を使い、感情的な没入感を最大化していた。

今後の見通し [専門家分析]

プラットフォームの対応は始まったが、根本的解決には限界があるとの評価が大勢を占める。TikTokは「公的に重要な紛争状況でAI生成コンテンツが誤解を招くことはコミュニティガイドライン違反」として問題アカウントを削除した。FacebookとYouTubeもそれぞれポリシー違反を理由にアカウントを削除した。

しかしこれは事後対応に過ぎない。AI動画生成ツールは進化し続けており、削除されたアカウントの同一コンテンツを新アカウントで再アップロードすることを防ぐ技術的障壁は現状では十分ではない。専門家たちは、プラットフォーム側のAI検出技術の高度化とともに、利用者自身が偽映像を識別できるメディアリテラシー教育の並行が不可欠だと強調する。

AI生成軍人映像を見破る主な特徴として、肌や髪の質感の不自然さ、背景と人物の照明の不一致、口の動きと音声のわずかなズレ、過度に感情的なスクリプトなどが挙げられる。特に「フォローしてくれますか?」「いいねを押してください」といった直接的な訴えかけは、操作コンテンツの強力なシグナルだ。

生成AIが普及した時代においてデジタルリテラシーはもはや任意ではなく必須となっている。AIが作る感情的コンテンツが実際の不安や社会的分断を引き起こしうる以上、この問題は単純な偽映像検出を超えて、情報生態系全体の信頼をいかに守るかという、より大きな問いへと拡張される可能性が高い。