"눈에 안 보여도 된다, 대신 알려라"… AI 생성물 표시 의무, '딥페이크 중심 최소규제'로 확정

AI 기본법 D-1

정부, 표시 책임을 생성형 AI 서비스 사업자에 한정

가시적 워터마크 대신 메타데이터·UI 안내 등 '한 차례 알림'만으로도 이행 인정

자료=과학기술정보통신부

인공지능(AI) 기본법 시행을 하루 앞두고 함께 도입되는 ‘AI 생성물 표시 의무’는 당초 예상보다 훨씬 느슨하고 유연한 구조로 수정됐다. 워터마크를 강제하는 대신 이용자가 AI 생성물임을 인지할 수 있도록 알리기만 하면 표시 의무를 이행한 것으로 간주하기로 했다. 눈에 보이지 않는 메타데이터 삽입이나 디지털 워터마킹 등 이른바 ‘비가시적 표시’도 허용된다.

21일 과학기술정보통신부는 전날 AI 기본법 스터디를 통해 이 같은 수정안을 공개했다. 심지섭 과기정통부 인공지능정책과 사무관은 "워터마크를 반드시 눈에 띄게 붙이라는 규제가 아니다"며 "메타데이터, 디지털 워터마킹처럼 눈에 보이지 않는 방식도 공식적으로 허용한다"고 설명했다. 이어 "다운로드나 외부 반출 단계에서 팝업, UI, 음성 안내 등으로 한 차례 이상 알리면 이행한 것으로 간주한다"고 덧붙였다.

정부는 외부 반출 시 생성물 유형에 따라 표시 기준을 달리 적용하기로 했다. 실제와 구별하기 어려운 딥페이크 생성물과 비교적 위험도가 낮은 일반 생성물을 명확히 구분해 관리한다. 실존 인물을 활용한 허위 영상이나 사람과 구별하기 어려운 합성 영상은 딥페이크로 분류돼 보다 엄격한 표시 대상이 된다. 이런 생성물에는 사람이 인식할 수 있는 표시나 기계 판독이 가능한 표식을 반드시 적용해야 한다.

반면 그림, 애니메이션, 일러스트, 합성 이미지 등 실제와 명확히 구별되는 일반 생성물은 상대적으로 완화된 기준을 적용한다. 텍스트, 음성, 이미지, 영상 등 매체 유형별로 사람이 인식할 수 있는 방식이나 기계 판독 방식 중 하나만 적용해도 표시 의무를 이행한 것으로 본다. 

 

자료=과학기술정보통신부

표시 책임 대상 역시 극히 좁게 설정됐다. 표시 의무는 생성형 AI 서비스를 직접 제공하는 사업자에게만 부과된다. 검색 서비스, 챗봇, 이미지·영상 생성 플랫폼, 음성 합성 서비스 등 이용자에게 AI 결과물을 직접 전달하는 주체만 규제 대상이다. 반면 AI를 활용해 콘텐츠를 제작하는 유튜버, 크리에이터, 언론사, 일반 개인 이용자는 원칙적으로 표시 의무와 무관하다.

파운데이션 모델 사업자나 API 제공 사업자도 원칙적으로 표시 책임을 지지 않는다. 해당 모델이나 API를 활용해 최종 서비스를 직접 제공하면 책임이 발생한다. 모델 공급 단계가 아니라 최종 서비스 단계에만 표시 의무를 집중시키는 구조다. 규제 책임을 가능한 한 말단이 아닌 플랫폼 사업자 단계에 묶어 두겠다는 설계다.

정부가 추산한 실제 적용 대상은 국내외를 포함해 약 1800~2000개 기업 수준에 그친다. 대다수 기업과 개인 이용자는 표시 의무와 직접적인 관련이 없다. 제재 수위 역시 낮게 설정됐다. 표시 의무를 위반하더라도 형벌은 없으며 최대 3000만원까지 과태료만 부과된다. 그것도 즉시 부과하지 않고 먼저 시정 명령을 내린 뒤 이를 이행하지 않았을 때에만 적용하는 사후 구조다.

정부는 규제 집행보다 가이드와 적응 지원에 무게를 두겠다는 방침이다. 향후 표시 방식과 기술 적용 사례를 정리해 가이드라인 형태로 제공하고, ‘AI 기본법 지원 데스크’를 통해 표시 방식 설계와 법 적용 여부 판단에 대한 상담도 병행한다. 위반 여부 판단보다 산업 적응을 돕는 데 정책 초점을 두겠다는 의미다.

이번 표시 의무 설계는 ‘강한 규제’보다는 ‘신뢰 확보를 위한 최소 규칙’에 가깝다. 딥페이크와 일반 생성물을 구분해 위험도에 따라 관리 강도를 달리하고, 기술 방식은 자율에 맡기고, 대상은 좁히고, 제재는 낮추는 구조다. 정부는 AI 확산 속도를 고려해 규제 강도보다는 이용자 신뢰와 산업 수용성을 먼저 확보하는 전략을 택했다.

김경만 과기정통부 인공지능기반정책실장은 “이번 AI 기본법 규제 설계의 핵심은 기술 방식을 법으로 일일이 제한하지 않고 기업의 자율성을 최대한 존중하는 것”이라며 “사회 안전과 기본권에 실제로 중대한 영향을 미칠 가능성이 있는 사례만 선별적으로 관리해 규제 강도보다 산업 수용성과 이용자 신뢰를 먼저 확보하는 데 주력하겠다”고 설명했다.