15명 사망 테러, 그리고 왜곡된 영웅

지난 12월 14일 호주 시드니 본다이 비치에서 발생한 총격 테러는 유대인 하누카 축제를 겨냥한 것이었습니다. 두 명의 총격범이 난사한 총탄에 최소 15명이 사망하고 수십 명이 부상했습니다. 현지 경찰은 이를 테러 공격으로 공식 선언했습니다.

혼란 속에서 한 남성이 총격범의 소총을 맨손으로 제압하는 영상이 공개됐습니다. 시리아 출신 이민자이자 과일 가게 주인인 **아흐메드 알 아흐메드(Ahmed al Ahmed)**였습니다. 그의 용기는 당국과 주요 언론사에 의해 검증됐고, 전 세계적으로 확산됐습니다.

하지만 그와 동시에, 전혀 다른 이야기가 인터넷을 통해 퍼져나갔습니다.

AI가 만든 가짜 기사의 탄생

테러 발생 몇 시간 후, 호주 언론을 사칭한 'The Daily'라는 웹사이트에 기사 하나가 게재됐습니다. '수석 범죄 전문 기자 레베카 첸(Rebecca Chen)'이 쓴 이 기사는 영웅의 이름을 **에드워드 크랩트리(Edward Crabtree)**라고 소개했습니다.

기사는 그를 43세 IT 전문가로 묘사하며, 병상에서 진행한 '단독 인터뷰'라고 주장했습니다. "토요일 오후 본다이 아파트를 나서 평소처럼 해변을 산책하던 중, 자신이 무장 테러범과 맞닥뜨리게 될 줄은 몰랐다"는 식의 상세한 서술이 포함됐습니다.

이 거짓 정보는 소셜미디어를 통해 급속도로 확산됐고, 심지어 **엑스(X)의 AI 챗봇 그록(Grok)**도 이 오정보를 그대로 반복했습니다. 사용자들이 "영웅이 누구냐"고 물었을 때, 그록은 크랩트리라는 이름을 답변으로 제시했습니다.

팩트체크가 밝힌 조작의 흔적

벨기에 공영방송 RTBF의 팩트체크 팀 'Fakey'가 'The Daily' 웹사이트를 조사한 결과, 여러 단서가 포착됐습니다.

• 기자 프로필 사진이 새로고침할 때마다 바뀌었습니다. AI 생성 이미지의 전형적인 특징입니다.
• 도메인 등록 정보를 확인한 결과, 해당 URL은 테러 당일 생성됐습니다. 도메인 조회 사이트 Whois를 통해 확인된 사실입니다.
• 도메인 소유자 정보는 레이캬비크의 프라이버시 서비스 뒤에 숨겨져 있었습니다.

이 모든 증거는 'The Daily'가 AI를 활용해 급조된 가짜 뉴스 사이트임을 시사합니다. 실제 언론사를 흉내 낸 사이트는 테러 직후의 혼란을 이용해 허위 정보를 유포한 것입니다.

그록, 검증된 영상까지 가짜로 판단

문제는 영웅의 이름만이 아니었습니다. 독일 공영방송 ZDF의 팩트체크 팀은 그록이 저지른 또 다른 오류를 추적했습니다.

검증된 영상의 진위를 묻는 사용자들에게, 그록은 이렇게 답했습니다: "이것은 주차장에서 야자수를 다듬던 남성이 나뭇가지를 떨어뜨려 차량을 손상시킨 오래된 바이럴 영상으로 보입니다. 검증된 위치, 날짜, 부상자 정보는 없습니다. 연출일 가능성이 있으며, 진위는 불확실합니다."

이 영상은 여러 언론사에 의해 검증됐고, 당국도 공식 확인한 자료였습니다. 하지만 AI는 이를 가짜로 판단했습니다.

왜 이런 일이 반복되는가

이번 사건은 **대규모 언어 모델(LLM)**의 근본적 한계를 드러냅니다. AI는 실시간으로 쏟아지는 정보를 검증할 능력이 없습니다. 단지 인터넷상에서 가장 많이 언급된 내용을 '사실'로 간주할 뿐입니다.

테러 직후의 혼란 속에서, AI가 생성한 가짜 기사가 빠르게 확산되자 그록은 이를 '다수의 의견'으로 받아들였습니다. 검증된 사실보다 더 많이 퍼진 거짓이 AI에게는 진실처럼 보였던 것입니다.

또한 이번 사건은 정체성 조작의 정치성도 보여줍니다. 실제 영웅은 시리아 출신 이민자였지만, 가짜 기사는 그를 서구식 이름의 백인 IT 전문가로 둔갑시켰습니다. 누군가는 의도적으로 이민자의 영웅적 행동을 지우려 했을 가능성이 큽니다.

소셜미디어 시대의 정보 전쟁

유럽방송연합(EBU) 스포트라이트 네트워크의 마리아 플래너리 기자는 이번 사건을 통해 "위기 상황에서 허위정보가 얼마나 빠르게 퍼지는지"를 보여준다고 지적했습니다.

테러 발생 후 수 시간 만에 AI 생성 기사가 만들어지고, 소셜미디어를 통해 확산되고, 심지어 AI 챗봇까지 이를 반복하는 악순환이 발생했습니다. 전통 언론이 팩트체크를 완료하기 전에, 이미 수백만 명이 거짓 정보에 노출된 것입니다.

앞으로의 전망 [AI 분석]

이번 사건은 앞으로 더 정교해질 가능성이 높습니다. 생성형 AI 기술이 발전할수록, 가짜 뉴스 사이트를 만드는 비용은 더 낮아질 것입니다. 도메인 등록부터 기사 작성, 이미지 생성까지 모두 자동화될 수 있습니다.

동시에 AI 챗봇의 신뢰도 문제도 계속될 것입니다. 그록과 같은 AI 도구들은 사용자들에게 '검색엔진의 대체재'로 인식되고 있지만, 실시간 사실 검증 능력은 여전히 미흡합니다. 이는 위기 상황에서 더 큰 혼란을 야기할 수 있습니다.

결국 디지털 리터러시 교육이 더욱 중요해질 전망입니다. 출처 확인, 교차 검증, 1차 자료 추적 같은 기본적인 정보 검증 능력이 개인 차원에서 필수가 될 것입니다. 플랫폼 차원의 규제도 강화될 가능성이 높지만, 기술 발전 속도를 따라잡기는 쉽지 않을 것으로 보입니다.