방미통위, 가짜뉴스에 딥페이크도 잡는다…망법·AI기본법 '투트랙'

생성형 AI 기술 발전으로 딥페이크 문제 확산

방미통위, 과기정통부 AI 기본법 체계 중심 대응 추진

AI 생성물 표시 강화 법안, 국회 과방위 논의 중

[사진=게티이미지뱅크]

방송미디어통신위원회(방미통위)가 허위조작정보 대응 강화를 위한 정보통신망법 시행령 개정에 나선 가운데, 생성형 인공지능(AI) 확산에 따른 악의적 딥페이크 등 새로운 유형의 허위정보 대응 체계 논의도 본격화하고 있다.

방미통위는 AI 생성물 규제와 허위정보 유통 대응과 관련해 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'과 정보통신망법의 균형을 맞춰 대응해나가겠다는 입장이다.

26일 방미통위에 따르면 최근 허위조작정보 대응 강화를 위한 정보통신망법 시행령 개정 작업이 진행 중이다. 앞서 방미통위는 지난 21일 '허위조작정보 체계적 대응을 위한 정보통신망법 시행령 개정안 토론회'를 열고 대규모 플랫폼 사업자와 수익형 크리에이터에 대한 책임 강화 방안을 공개했다.

시행령 개정안은 일일활성이용자수(DAU) 100만 명 이상 플랫폼 사업자에 허위정보 신고 및 삭제·차단 조치 의무를 부여하는 내용을 담고 있다. 또 10만 구독자 이상 크리에이터에 대해서는 가중 손해배상과 과징금 적용 가능성을 열어두며 사회적 책임을 강화했다.

다만 이번 시행령 개정안이 유튜브, 인스타그램 등을 포함한 사회관계망서비스(SNS) 등 기존 정보 유통 플랫폼 중심으로 설계된 측면이 크다는 분석도 나온다. 최근 생성형 AI 기술 발전으로 악의적 딥페이크 영상·이미지가 확산하는 등 관련 문제가 발생하고 있지만, 이번 개정안은 허위정보 유통 차단과 사후 대응에 초점이 맞춰졌다는 지적이다.

오세욱 한국언론진흥재단 책임연구위원은 "딥페이크 허위정보에 대응하기 위해서는 이용자가 AI 생성 여부를 인식할 수 있도록 표시 강제 제도와 디지털 워터마크 체계가 필요하다"며 "사후 삭제·차단뿐 아니라 사전 예방 체계 구축 논의도 병행해야 한다"고 짚었다. 디지털 워터마크란 콘텐츠에 육안으로는 보이지 않는 고유 식별 표식을 삽입해 위·변조와 진위 여부를 가려내는 기술을 말한다.

방미통위는 AI 생성물 규제는 기본적으로 과학기술정보통신부(과기정통부)의 AI 기본법 체계를 중심으로 추진하고 있다는 입장이다. AI 기본법은 AI 산업 육성을 지원하되 국민의 생명이나 안전에 직결된 고위험성 AI에 대한 최소한의 규제와 신뢰성 확보 체계를 규정한 법안이다.

방미통위 관계자는 "AI를 포함한 다양한 수단을 활용해 허위조작정보를 제작·게시한 이용자에 대해서는 가중 손해배상과 반복 유포 시 과징금이 적용될 수 있다"며 "AI 생성물 표시 의무의 경우 AI 기본법과 정보통신망법 개정 논의를 함께 보며 균형 있게 추진하고 있다"고 말했다.

지난 1월 조인철 의원이 대표 발의해 현재 국회 과학기술정보방송통신위원회(과방위)에 계류 중인 정보통신망법 개정안은 플랫폼 사업자에게 게시자·이용자의 AI 생성물 표시 유지·관리 의무를 부여하는 내용을 담고 있다. AI 생성물을 직접 제작·편집해 게시하는 이용자에게는 별도 표시 의무를 부과했다. 이용자의 임의적인 표시 제거·훼손 행위 금지 조항도 포함됐다.

방미통위 관계자는 "향후 과방위 논의가 본격화되면 AI 생성물 표시 관련 법안 처리도 추진될 예정"이라며 "기존 생성형 AI 이용자 보호 가이드라인 역시 실효성 있는 법적 의무 수준으로 강화하기 위해 노력할 것"이라고 강조했다.