총구 앞에 선 야당 후보, 그는 AI가 만든 '무슬림'이었다

인도 집권 여당 인도인민당(BJP·Bharatiya Janata Party)의 아삼(Assam)주 공식 소셜미디어 계정이 올해 2월 공개한 영상에는 충격적인 장면이 담겼다. 아삼 주지사 히만타 비스와 사르마(Himanta Biswa Sarma)가 이슬람 전통 모자(스컬캡)를 쓴 두 남성의 이미지를 향해 총을 겨누는 모습이었다. 영상에는 '외국인 없는 아삼', '왜 파키스탄에 가지 않았냐'는 자막이 덧씌워져 있었다.

총구가 향한 인물 중 한 명은 BJP의 핵심 경쟁자인 인도국민회의(INC)의 가우라브 고고이(Gaurav Gogoi) 의원이었다. 힌두교 신자인 그는 이드(Eid) 등 종교 행사 때 전통 무슬림 복장을 착용한 사진이 공개된 바 있다. 그러나 영상 속 이미지는 그런 공식 행사가 아니었다. 민소매 셔츠에 스컬캡을 쓰고 꾸란(Quran)을 든 모습은 생성형 인공지능(AI)으로 조작된 합성 이미지였다. 해당 영상은 이후 삭제됐다.

499개 게시물 분석... 혐오 콘텐츠 39%, AI 합성은 그중 6분의 1

독립 탐사보도 매체 벨링캣(Bellingcat)은 지난해 12월부터 올해 초까지 아삼과 서벵골(West Bengal) 두 주의 BJP 공식 계정(페이스북·인스타그램·X)에서 게시된 499개 콘텐츠를 분석했다. 그 결과 194개(약 39%)가 종교·국적 등 고유 특성을 이유로 특정 집단을 차별하는 유엔(UN) 혐오 표현 정의에 부합하는 것으로 분류됐다. 이 중 31개(혐오 게시물의 약 6분의 1)는 생성형 AI 이미지가 명백하게 사용된 경우였다.

두 주 모두 방글라데시와 국경을 접하고 있다. 아삼에서는 4월 9일, 서벵골에서는 4월 23일 주의회 선거가 예정된 가운데, BJP는 방글라데시 출신 무슬림 이주자 문제를 핵심 선거 의제로 내세워 왔다. 현재 아삼은 BJP가, 서벵골은 전인도풀뿌리회의(TMC·Trinamool Congress)가 집권 중이다.

전 세계로 번지는 'AI 혐오 선거' 패턴

선거를 앞두고 생성형 AI를 활용해 혐오·분열 콘텐츠를 증폭시키는 흐름은 인도만의 현상이 아니다. 복수의 외신 보도에 따르면, 지난해 뉴욕시장 선거에서 앤드루 쿠오모(Andrew Cuomo) 후보 측 공식 X 계정은 경쟁 후보를 손으로 밥을 먹는 모습으로 묘사하고 케피예를 쓴 흑인 남성이 물건을 훔치는 장면을 담은 AI 생성 영상을 올렸다가 삭제했다. 이탈리아에서는 마테오 살비니(Matteo Salvini) 부총리의 동맹당(Lega)이 유색인종 남성이 여성과 경찰을 공격하는 AI 이미지를 게시해 야당들이 통신감독기관에 공식 제소했다. 영국에서는 극우 단체가 자금을 댄 AI 생성 래퍼가 무슬림을 겨냥한 가사로 수백만 회 조회수를 기록했다.

인도에서 이 흐름은 방글라데시와의 외교적 긴장이라는 지역적 맥락과 맞물리며 더욱 폭발적인 파급력을 갖는다. BJP는 오랫동안 '불법 방글라데시 이주자' 문제를 힌두 민족주의 선거 전략의 핵심 축으로 삼아왔으며, 생성형 AI는 이 메시지를 저비용·고효율로 시각화하는 도구로 자리 잡고 있다.

앞으로의 전망 [AI 분석]

이번 사례는 생성형 AI가 선거 무결성과 민주주의적 공론장을 위협하는 수단으로 체계적으로 활용될 수 있음을 보여주는 사례로 기록될 가능성이 높다.

전문가들이 지목하는 핵심 문제는 세 가지다. 첫째, 제작 비용이 극히 낮다. 전문 편집 인력 없이도 수 분 만에 설득력 있는 합성 이미지를 생성할 수 있다. 둘째, 확산 속도가 팩트체크 속도를 압도한다. 소셜미디어 알고리즘은 감정적 반응을 유발하는 콘텐츠를 우선 증폭하며, 혐오 이미지는 이에 최적화되어 있다. 셋째, 검증이 어렵다. 합성 여부를 판별하려면 원본 이미지를 알아야 하는데, 일반 유권자가 이를 실시간으로 확인하기란 사실상 불가능하다.

인도 선거관리위원회는 딥페이크(deepfake) 및 AI 합성 콘텐츠에 대한 공식 가이드라인을 갖추지 못한 상태다. 관련 법적 규제 공백이 메워지지 않을 경우 2026년 이후 선거에서도 유사한 패턴이 반복될 가능성이 높다고 전문가들은 경고한다. 특히 방글라데시 접경 지역의 반무슬림·반방글라데시 정서 자극은 선거 이후에도 지역 간 실질적 갈등으로 이어질 가능성을 배제할 수 없다.

메타(Meta)와 X는 AI 생성 콘텐츠 표시 정책을 도입했지만, 선거 전 단기간에 쏟아지는 대규모 유기적 게시물에 대한 실효성 있는 집행은 여전히 미흡하다는 지적이 나온다. 결국 이 싸움은 합성 이미지를 탐지하는 AI와 이를 생성하는 AI 사이의 기술 경쟁으로 귀결될 가능성이 높으며, 그 결과가 민주주의 선거의 공정성에 직접적인 영향을 미칠 수 있다.