생성형 인공지능(AI)이 대중화된 이후 처음 치러지는 6·3 전국동시지방선거에서 AI를 악용한 딥페이크·허위 정보가 이전 선거 대비 폭발적으로 증가했다. 단순 후보 홍보나 개인 공격을 넘어 반중(反中) 정서, 부정선거 음모론과 결합한 형태로 진화하면서 선거 생태계 전체를 흔드는 변수가 됐다.
1일 행정안전부와 중앙선거관리위원회에 따르면 올해 1월 1일부터 지난달 27일까지 선관위가 온라인 플랫폼 사업자에 딥페이크 게시물 삭제를 요청한 건수는 1만 319건으로 집계됐다. 2024년 제22대 국회의원 총선거 당시 388건과 비교하면 약 26.6배 늘었다. 같은 기간 허위사실 유포·흑색선전 혐의로 단속된 인원도 921명에 달했다. 공식 선거운동이 시작된 4월 13일 이후 한 달여 동안에만 하루 평균 12.5명꼴로 적발됐다.
이번 지방선거에서 나타난 AI 허위 정보는 크게 세 가지 유형으로 분류된다.
두 번째는 상대 후보를 겨냥한 공격용 딥페이크다. 경남도지사 선거에서는 국민의힘 박완수 후보 캠프에서 일했던 직원이 과거 '드루킹 댓글 조작 사건'을 소재로 한 딥페이크 영상을 제작해 비공식 유튜브 채널에 올렸다는 의혹이 불거졌다. JTBC 보도를 계기로 해당 직원이 경남도청 공무원으로부터 자료를 받아 영상을 제작했다고 주장하면서 공방이 격화됐다. 더불어민주당 김경수 후보 캠프는 관련자 5명을 경찰에 고발했고, 박 후보 측은 전면 부인했다. 경남선관위는 이달 초 제보를 접수해 조사를 진행 중이다.
세 번째이자 이번 선거의 신유형은 AI 조작 이미지를 음모론의 '증거'로 삼는 방식이다. 서울 지역 한 구의원 후보의 선거 벽보가 중국어로 표기된 이미지가 SNS에 유포되면서 "중국이 선거에 개입했다", "해당 후보가 중국인", "시진핑 지지 후보"라는 주장으로 급속히 번졌다. 해당 이미지는 AI로 조작된 가짜임이 AFP 팩트체크 등을 통해 확인됐지만, 반중 정서와 결합한 콘텐츠는 이미 극우 성향 계정과 부정선거 음모론 커뮤니티를 중심으로 광범위하게 공유된 뒤였다.
이 같은 음모론 확대 재생산 흐름은 외부 인사의 활동과도 맞물려 있다. 부정선거를 주장해온 모스 탄(단현명) 교수가 최근 재입국한 뒤 사전투표소를 방문하고 황교안 전 국무총리, 전광훈 목사 등을 만났다는 내용이 SNS에서 크게 주목받았다. 일부 극우 유튜버들은 여기에 "투표수 폭증", "CCTV 가림" 등 사실 확인되지 않은 주장을 AI 생성 이미지와 섞어 게시하는 방식으로 '부정선거 국제감시' 서사를 강화하고 있다.
2018년 지방선거에서는 포털 댓글, 2022년 선거에서는 유튜브가 허위 정보의 주요 통로였다면, 이번에는 생성형 AI가 그 자리를 차지한 셈이다. 특히 과거 딥페이크가 특정 후보 개인을 향한 단순 공격에 집중됐다면, 이번 선거에서는 반중·부정선거 음모론이라는 이념적 서사와 결합해 특정 진영 전체를 공격하는 형태로 구조가 바뀌었다는 점이 주목된다.
정부와 선관위는 대응 수위를 높이고 있다. 선관위는 국립과학수사연구원·한국전자기술연구원과 공동 개발한 딥페이크 식별 프로그램 '아이기스'를 도입해 실시간 모니터링에 나서고 있다.
경찰청은 후보자 등록 개시일인 지난달 14일부터 선거범죄 대응 단계를 최고 수준으로 격상했다. 틱톡 등 글로벌 플랫폼도 선관위와 핫라인을 구축하고 선거 허위 정보 대응 정책을 공개했다. 그러나 구조적 한계도 뚜렷하다. 플랫폼에 삭제 요청이 접수되기까지 수일이 걸리는 사이 콘텐츠는 이미 수만 회 공유되는 경우가 적지 않다.
정치권 관계자는 "생성형 AI 기술이 고도화되면서 전문 기술 없이도 실제와 구분하기 어려운 영상·이미지를 누구나 만들 수 있게 됐다"며 "숏폼 플랫폼 중심으로 콘텐츠가 빠르게 확산되는 환경이 겹치면서 대응에 한계가 생기고 있다"고 말했다.
김성현 기자minus1@ajunews.com
기자의 다른기사
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지
![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)
