[데스크 칼럼] '딥페이크 공화국' 한국의 민낯

이재훈 디지털미디어부장

바이든, 트럼프, 윤석열 등 미국과 한국의 전·현직 대통령들이 곤욕을 치르고 있다. 자신이 직접 한 말도 아닌, AI(인공지능)이 흉내 낸 자신의 얼굴과 목소리가 버젓이 사실처럼 플랫폼에 노출되고 있어서다.

그것도 자신의 뜻과는 전혀 다른 궤변을 쏟아내는 파렴치범으로 만들어 놓은 영상이 해당 국가는 물론 전 세계로 삽시간에 번지고 있다. 해당 영상과 목소리를 접하는 전 세계 인류는 영상이 진짜 혹은 가짜인지를 분석해야 하는 피로감에 휩싸인다. 

소위 딥페이크(인공지능으로 만든 영상·이미지 합성 조작물) 영상은 정치인만이 타깃이 아니다. 팬들의 인기를 먹고사는 유명 연예인은 물론 자신의 일상을 불특정 다수에게 공개하기를 꺼리는 일반인에게도 자비 없이 침투한다.

그중에서도 우리가 살고 있는 대한민국이 가장 위험한 국가 중 한 곳으로 평가받는다. 프랑스 르몽드는 최근 한국이 딥페이크 음란물의 온상이라고 진단했다. 여성의 신체를 몰래 촬영한 '몰카'가 범람해 몰카 공화국으로 불렸던 민낯이 그대로 드러났다.

르몽드는 미국의 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인에 퍼져 논란이 된 일을 거론하며 "한국은 이런 일이 놀랍지 않은 나라"라고 덧붙였다. 한국에서는 온라인 합성 음란물이 수년 전부터 문제였고, 이미 일상이 됐다는 설명이다.

르몽드 조사에 따르면 음란물 딥페이크 분야에서 가장 인기 있는 5개 동영상 플랫폼을 조사한 결과 전 세계에서 가장 많은 표적이 된 유명인 50명 가운데 56%가 한국 스타였다.

한국은 구글, 마이크로소프트(MS), 오픈AI 등 인공지능(AI) 기술 기업이 공개한 이미지 생성 AI 딥페이크에 가장 취약한 곳이기도 하다. 사람이 텍스트만 입력하면 AI가 고품질의 이미지를 단숨에 만들어주면서 놀라움을 주는 반면 딥페이크와 같은 유해한 이미지를 생성하는 것 역시 손쉬워져 가뜩이나 딥페이크 악용의 대표적인 국가로 전락할 수 있다.

구글 AI 모델 '제미나이'의 경우 아인슈타인을 유색인종으로 표현하고, 독일 나치군을 아시아인으로 묘사하는 등 사실과 다른 이미지를 생성해 논란이 됐다. 같은 이유로 오픈AI 챗GPT 플러스, MS 이미지 크리에이터, 스태빌리티AI 드림스튜디오, 미드저니 각종 AI 도구들 모두 딥페이크의 폐해로 인해 골칫거리로 전락하고 있다.

AI 기술로 만든 가짜 이미지와 함께 가짜 음성도 AI 딥페이크에 대한 심각한 우려를 낳게 한다. 이미 4월 총선을 앞두고 SNS에서 가짜 영상이 판을 치고 있다. 대표적인 사례가 '윤석열 대통령 양심고백 연설'인데 최악의 파급력을 주고 있지만 경찰 수사로 인한 처벌은 요원한 실정이다. 특히 해당 딥페이크 제조 영상의 근원지가 국내가 아닌 해외일 경우 사태는 더 악화할 수밖에 없다.
 
최근에는 장윤정, 박명수 등 연예인이 직접 'AI 커버곡'에 대한 우려를 표명하고 있다. 이들은 유행하는 노래를 커버하는 게 사람이 아니라 AI라는 것에 한 번 놀라고, 실제 사람이 커버하는 것과 흡사해 보이스피싱 등 범죄에 악용되는 게 아니냐는 목소리다.

정부와 인터넷 관련 민간 협의회의 대응은 이제 걸음마 수준이다. 한국인터넷기업협회는 최근 국내 회원사인 네이버와 카카오, SK커뮤니케이션즈가 악의적 선거 딥페이크 사용 방지를 위한 공동선언을 채택했다고 밝혔다.

공동선언의 취지는 좋지만 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동이라는 것에 아쉬움이 남는다. 악의적 딥페이크에 '경고 라벨' 정도만 붙일 게 아니라 실제 국회·정부와 함께 악성 딥페이크 차단에 적극 나설 필요가 있다.

무엇보다 이들이 진행한 공동선언에서 구글코리아(구글)와 페이스북코리아(메타), 엑스(X·옛 트위터) 등 해외 빅테크들은 빠졌다. 이들 플랫폼은 예전부터 몰카 영상은 물론 불법 딥페이크 온상으로 전락한 지 오래다.

정부와 국회, 빅테크 기업들이 직접 나서야 한다. 딥페이크 자체를 법적으로 처벌할 수 있는 규제를 만들어야 하고, AI를 악용한 범죄를 단죄할 수 있는 유효한 대책을 마련해야 한다.