[정세희의 SNS 속 세상] "똑같아서 무섭다"…전 세계 홀린 AI 영상

[사진=SNS 캡처]

인공지능(AI) 기술이 급속도로 발전하면서 ‘딥페이크(Deepfake)’가 사회 전반을 뒤흔드는 새로운 위험 요소로 떠오르고 있다. 과거에는 영화 특수효과나 콘텐츠 제작 기술 정도로 여겨졌던 딥페이크가 이제는 범죄·가짜뉴스·여론조작·사생활 침해·금융사기까지 확산되며 심각한 사회 문제로 번지고 있기 때문이다.

특히 생성형 AI 기술이 대중화되면서 전문 장비나 고급 기술 없이도 스마트폰 앱 몇 개만으로 실제와 거의 구분하기 어려운 가짜 영상과 음성을 만들 수 있게 됐고, 이에 따라 온라인 공간은 이미 ‘무엇이 진짜인지 알 수 없는 시대’로 접어들었다는 우려가 커지고 있다.

전문가들은 “딥페이크는 단순한 장난 수준을 넘어 사회 신뢰 체계를 무너뜨릴 수 있는 위험 기술”이라고 경고하고 있다. 실제 최근 사회관계망서비스(SNS)와 온라인 커뮤니티에서는 AI로 조작된 영상들이 사실처럼 퍼지며 시민 혼란을 키우는 사례가 반복되고 있다.

최근 SNS에는 짧은 영상 하나가 수백만 조회수를 기록하며 국내는 물론 해외 커뮤니티까지 퍼져나갔다. 해당 영상은 지난 1일 SNS에 올라온 5초 분량의 게시물이다. ‘티비에 내가 나왔으면 좋겠다’는 설명이 붙은 이 영상은, 공개 직후 빠르게 확산돼 사흘 만에 조회수 800만 회를 넘어섰다. ‘좋아요’ 역시 수만 건 이상 이어지며 온라인 화제 영상으로 떠올랐다.

영상에는 한화 이글스와 두산 베어스 경기 중계 화면으로 보이는 장면이 담겼다. 관중석에 앉아 있던 한 여성이 중계 카메라에 포착됐는데, 튜브톱 차림의 이 여성은 경기 흐름을 지켜보며 한숨을 쉬거나 시선을 돌리는 모습으로 등장했다.

이에 해외 이용자들은 해당 여성을 두고 “한국의 야구 여신”, “드라마 속 장면 같다”는 반응을 보이며 높은 관심을 나타냈다. 미국 온라인 커뮤니티 레딧에도 관련 게시물이 공유됐고, 하루 만에 수천 건에 가까운 추천 반응이 달리며 화제를 이어갔다.

그러나 영상이 급속도로 확산되자 야구팬들을 중심으로 “영상 자체가 AI 딥페이크일 가능성이 있다”는 분석이 제기됐다. 가장 먼저 의심을 산 부분은 경기 중계 화면 속 정보였다. 화면 왼쪽 상단 점수판에는 투수로 김서현, 타자로 조인성이 표기돼 있었는데, 이 조합 자체가 실제 경기에서는 성립하기 어렵다는 지적이 나온 것이다.

김서현은 2023년 한화 이글스에 입단해 현재 현역 선수로 활동 중이지만, 조인성은 1998년 LG 트윈스에 입단한 뒤 2017년 현역에서 은퇴해 현재는 코치 생활을 하고 있다. 특히 조인성은 두산 베어스 선수로 뛴 이력도 없어 영상 속 경기 설정과 맞지 않는다는 반응이 이어졌다.

야구팬들 사이에서는 “현역 투수와 은퇴한 선수가 동시에 경기하는 게 말이 되느냐”, “AI가 데이터를 뒤섞어 만든 전형적인 오류 같다”, “처음엔 진짜 중계인 줄 알았다”는 반응이 이어졌다.

또 영상 속 응원 문구와 관중 움직임 역시 어색하다는 분석이 나오며 딥페이크 의혹은 빠르게 확산됐다. 일부 누리꾼들은 “이 정도면 어르신들은 속을 수밖에 없다”, “5초짜리 영상도 진짜처럼 만드는 시대가 왔다”, “앞으로 영상 증거 자체를 믿기 힘들어질 것 같다”며 불안감을 드러냈다.
 

[사진=연합뉴스·SNS 캡처]

실제 AI 딥페이크 영상은 이미 일상 깊숙이 침투한 상태다. 과거 SNS에서는 러브버그 떼를 참새들이 대거 잡아먹는 영상이 확산되며 화제를 모은 바 있다. 당시 영상에는 수십 마리 새떼가 도심 한복판에서 벌레를 쪼아먹는 모습이 담겨 있었지만, 일부 장면에서 새 움직임이 부자연스럽고 그림자 표현이 어색하다는 지적이 제기됐다. 이후 온라인에서는 “AI 생성 영상 가능성이 높다”는 분석이 이어졌고, 실제 전문가들 역시 생성형 AI 특유의 왜곡 패턴과 유사하다고 설명했다.

이밖에도 침수 차량이 하늘로 떠오르는 장면, 상어가 도심 도로를 헤엄치는 영상, 연예인이 하지 않은 인터뷰를 하는 영상 등 사실 여부가 불분명한 콘텐츠들이 SNS에서 수백만 조회수를 기록하며 퍼지고 있다. 문제는 이 같은 영상 상당수가 단순한 재미 콘텐츠를 넘어 실제 여론과 사회 인식에 영향을 미친다는 점이다. 특히 정치·선거 분야에서 딥페이크는 더욱 위험한 무기로 평가된다. 해외에서는 이미 정치인이 하지 않은 발언을 AI 음성으로 조작한 사례가 등장했고, 국내에서도 선거철마다 특정 후보가 범죄를 인정하거나 막말을 하는 것처럼 꾸민 영상이 온라인에 퍼지며 논란이 반복되고 있다. 정부와 선거관리위원회는 “유권자의 판단을 왜곡할 수 있는 중대한 범죄”라고 강조하고 있지만, AI 생성 기술이 워낙 빠르게 발전하면서 사실상 완벽한 차단은 어려운 상황이다.

온라인 반응 역시 극명하게 갈린다. 한쪽에서는 “AI 기술이 결국 인간 사회를 망가뜨리고 있다”, “딥페이크 제작 처벌을 대폭 강화해야 한다”, “플랫폼 책임도 훨씬 커져야 한다”는 주장이 나오는 반면, 다른 한편에서는 “모든 콘텐츠를 검열하기 시작하면 표현의 자유 문제가 생길 수 있다”, “풍자와 패러디까지 위축될 수 있다”는 우려도 제기된다. 다만 전문가들은 “표현의 자유와 허위조작정보 규제는 별개로 접근해야 한다”며 “특히 범죄·사기·성착취 목적 딥페이크는 강력한 처벌이 필요하다”고 강조한다.

AI 기술은 앞으로도 더욱 발전할 가능성이 크다. 문제는 기술 발전 속도에 비해 사회 안전망과 제도 정비가 지나치게 느리다는 점이다. 전문가들은 “이제는 시민 개개인이 영상과 사진을 무조건 사실로 받아들이지 않는 미디어 리터러시가 중요해졌다”고 입을 모은다. 실제 온라인에서도 “조회수 높은 영상이라고 다 진짜는 아니다”, “이상하면 반드시 출처를 확인해야 한다”, “이제는 눈보다 검증이 먼저인 시대”라는 반응이 확산되고 있다.