딥페이크 선거운동 29일부터 금지...투표 독려는 허용

AI전문가, 모니터 전담요원 등 감별반 편성 확대

지난 10일 오전 경기도 수원시 경기도선거관리위원회에서 관계자들이 사이버선거범죄 근절 홍보 퍼포먼스를 하고 있다. [사진=연합뉴스]

인공지능(AI) 기술로 사람의 얼굴을 실제처럼 보이게 하는 딥페이크 영상을 활용한 선거운동이 오는 29일부터 금지된다.
 
중앙선거관리위원회는 18일 이런 내용의 딥페이크 영상 등 선거운동 위법행위 예방·단속 종합대책을 발표했다.
 
선거운동 활용이 금지되는 것은 AI 기술로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등이다. AI 기술로 만든 가상임을 표시해서 활용하더라도 법 위반이 된다.
 
다만 포토샵·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다. AI 기술을 사용해 만든 이미지와 영상도 총선 선거운동이 아닌 당내 경선 운동, 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동에는 활용할 수 있다.

 
선관위는 지난 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 확대 편성해 운영하고 있다. 딥페이크 영상 등을 활용한 선거운동 의심 사례를 찾을 경우 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.
 
포털, AI 플랫폼 관계사 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고, 삭제 요청에 불응하면 과태료도 부과한다. AI 댓글 자동 생성 프로그램 등을 통한 댓글 자동 게시는 발견 시 수사기관에 통보할 방침이다.