李대통령 "딥페이크 악용 심각…대비책 있어야"

부처별 업무보고 주재…AI 창작물 표시 의무 필요성 강조

"AI, 우리에 결정적 기회…전 세계 문명사적 대전환 맞아"

이재명 대통령이 16일 청와대 영빈관에서 열린 부처 업무보고에서 참석 기관장에게 질문하고 있다. [사진=연합뉴스]

이재명 대통령은 16일 실제 인물과 구별하기 어려운 AI(인공지능) 딥페이크 영상과 이미지가 별도 표시 없이 유통될 경우 사실을 입증하는 증거처럼 받아들여질 수 있다고 지적했다.
 
이 대통령은 이날 청와대 영빈관에서 열린 과학기술정보통신부(우주항공청)·방송미디어통신위원회·개인정보보호위원회 업무보고에서 “요즘은 인공지능 창작물인지 실제 상황인지 구분하기 어려울 정도로 실제 영상과 유사하다”며 이같이 밝혔다.
 
이 대통령은 “표시가 없으면 심각한 오해를 유발할 수 있고, 악용되면 정말 심각하다”며 “인공지능 창작물이 가진 위험성이 이미 현실화하고 있는 만큼 대비책이 있어야 한다”고 강조했다.
 
현행 인공지능기본법에 따르면 생성형 AI로 만든 영상과 이미지는 AI 생성물이라는 사실을 표시해야 한다. 특히 실존하는 사람이나 실제 현상을 AI로 변형한 딥페이크는 이용자가 즉시 알아볼 수 있도록 가시적으로 표시할 의무가 있다. 표시 의무를 위반할 경우 3000만원 이하의 과태료를 부과할 수 있지만, 관련 제재 규정은 현재 1년간 유예된 상태다.
 

이 대통령은 현행법이 AI 모델 개발 사업자와 이용 사업자에게만 표시 의무를 부과하고, 생성물의 표시를 지우거나 일부를 잘라 재유통하는 일반 유포자는 직접 규제하지 못한다고 지적했다.
 
이 대통령은 국내 포털의 경우 당사자가 명예훼손이나 권리 침해를 신고하면 게시물을 우선 차단한 뒤 이의신청 절차를 거친다고도 했다. 하지만 해외 플랫폼은 본인 확인과 삭제 조치가 제대로 이뤄지지 않는다. 
 
앞서 이 대통령은 업무보고 초반에 “앞으로 우리 사회 모든 영역에서 인간의 지능과 유사하거나 이를 능가하는 인공지능을 동반하고 살아야 할지 모른다”며 “전 세계가 AI로 문명사적 대전환을 맞았다”고 말했다.
 
이 대통령은 “저는 이런 상황이 우리에게 주어진 결정적 기회라고 생각한다”며 “우리의 강점을 잘 활용하고 약점을 잘 보완하면 추격자가 아닌 선도자가 될 수 있다. 조금이라도 앞서면 무한한 기회를 누릴 수 있다”고 강조했다.
 
이 대통령은 “우리 정부가 출범하고 1년 사이 과학기술 혁신 생태계를 정상화했고 있을 수 없는 연구개발(R&D) 예산 삭감이나 과학기술 분야에 대한 난폭한 대처를 많이 시정했다”며 “최근에는 민간의 대대적인 투자도 끌어냈다”고 소개했다.