넘쳐나는 AI 생성 전쟁영상에 '가짜뉴스' 확산...플랫폼들도 비상

X에 게시된 AI 페이크 영상. 이란이 두바이 CIA본부를 폭격했다는 내용과 AI 생성 영상이 첨부됐다. 해당 게시물은 5일 기준 390만 뷰를 기록하면서 잘못된 정보를 확산하고 있다. [사진=X캡쳐]

미국·이스라엘의 이란 공습 이후 소셜미디어에 AI 생성 전쟁 영상이나 선전·선전 영상들이 넘쳐나면서 플랫폼에도 비상이 걸렸다. 이란 전쟁 이후 주요 플랫폼의 사용량도 급증했는데, 가짜 전쟁 영상을 중심으로 잘못된 정보가 확산하는 중이다.
 
5일 IT업계에 따르면 미국과 이스라엘이 이란에 대규모 공습을 개시한 2월 말부터 3월 초까지 X 플랫폼은 사상 최고 사용량을 기록했다.
 
일론 머스크 CEO(최고경영자)는 지난 1일 “X 역사상 최고 사용량”이라고 직접 확인했으며, 한 달간 4170억 사용을 기록했던 2024년 7월 기록을 넘긴 것으로 전해진다.
 

이는 이란 최고지도자 아야톨라 알리 하메네이 사망 등 충격적 소식이 실시간으로 퍼지면서 사용자들이 뉴스와 영상을 확인하기 위해 몰린 결과로 분석된다.
 
X뿐 아니라 인스타그램, 페이스북, 틱톡 등에서도 AI 생성 가짜 영상이 폭주했다. BBC 베리파이에 따르면, 미국 전투기를 이란 로켓이 격추하는 장면이 7000만 뷰를 넘겼고, 실제 미사일 타격 장면에 AI로 거대한 화염구를 덧붙인 영상도 수백만 조회수를 기록했다.
 
다른 가짜 콘텐츠로는 “이란, 리야드 미 공군기지 파괴”라는 제목으로 18개월 전 예멘 정유시설 폭발 영상을 재활용한 경우, AI로 생성한 항공모함 USS 아브라함 피격 영상, 두바이 팜 호텔 파괴 장면, 부르즈 할리파 화재 이미지 등이 있다.

이 밖에도 SNS를 중심으로 ‘타란티노 감독이 이란의 이스라엘 미사일 공격으로 사망했다’는 주장이 확산한 바 있다. 소문은 팔로어 약 15만명을 보유한 한  X 사용자가 이러한 내용의 게시글을 올리면서 시작됐다. 이 사용자는 미 연예전문매체 데드라인을 출처로 표기했으나 모두 사실무근이었던 것으로 확인됐다. 

풀팩트 등 팩트체커들은 AI가 잘못된 정보 확산을 가속화하고 있으며, 저품질·워터마크가 있어도 대량 공유된다고 지적했다.

 
플랫폼들은 기존 AI 콘텐츠 라벨링 정책을 강화하며 대응에 나섰다. X는 3월 3~4일경 니키타 비어 제품 총괄 명의로 새 정책을 발표했다. 무장 충돌을 묘사한 AI 생성 비디오를 AI 제작 사실을 공개하지 않고 게시할 경우, 크리에이터 수익 공유 프로그램에서 90일 정지된다. 두 번째 위반 시 영구 금지다.
 
이는 수익 공유 제도가 충격적 바이럴 콘텐츠를 유인해 가짜 영상 생산을 부추긴다는 문제 해결을 목적으로 한다. AI 페이크 영상 탐지는 커뮤니티 노트, 메타데이터 분석, AI 생성 시그널 등을 활용한다.
 
틱톡은 전쟁 관련 AI 페이크 영상에 대한 모니터링을 대폭 강화하고 즉시 삭제 조치를 취하고 있다. 유튜브도 AI 생성 전쟁 영상을 유해 콘텐츠로 분류하며 자동 감지 시스템을 업그레이드 중이다. 메타 등 플랫폼도 기존 AI 생성 영상 라벨링에 더해 모니터링을 강화하고 있는 것으로 전해진다. 


 
업계에서는 플랫폼의 이 같은 조치에도 한계가 뚜렷하다는 지적이 나온다. 이란 국영 미디어가 AI 이미지를 공식적으로 게시하는 경우 제재가 어렵고, 플랫폼 간 데이터 공유 부재로 교차 검증이 제한적이다. 와이어드 등 보도에 따르면 X에서 수백 건의 가짜뉴스 포스트가 확인됐으며, 일부는 수백만~수천만 뷰를 기록했다.