"워터마크 확인은 누가, 어떻게?"… 진위 검증 아닌 표시 유무가 핵심

KOSA "생성단계에서 워터마크 정상적으로 존재했는지 여부가 판단기준"

지난 26일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)이 통과되고 있다.[사진=연합뉴스]

인공지능(AI) 기본법 시행 이후 정부가 AI 생성물에 대한 워터마크 표시를 의무화했지만, 정작 이를 어떻게 확인·검증해야 하는지에 대한 기준이 없다는 지적이 나온다.

3일 AI 기본법에 따라 가시적 또는 비가시적 워터마크를 삽입해 투명성을 확보하도록 규정했지만 관련 업체마다 서로 다른 기술 방식과 규격을 사용하고, 이를 확인하고 검증하는 기준 역시 없어 현장 혼란이 이어지고 있다. 

비가시성 워터마크 기술 개발을 한 민경웅 스냅태그 대표는 “가장 큰 의문은 워터마크를 넣기만 하면 끝이냐는 것”이라며 “구글, 메타, 국내 기업들 모두 서로 다른 방식으로 워터마크를 삽입하고 있어 누가, 어떻게 검증하고 확인할지에 대한 기준을 정할 필요가 있다”고 지적했다.

AI 기본법은 딥페이크 등 AI 생성물로 인한 사회적 혼란을 줄이기 위해 투명성을 강화한다는 목적을 내세웠지만, 확인 수단이 없다면 실효성이 떨어질 수밖에 없다는 것이다.

정부가 가이드라인에서 주로 언급하는 메타데이터 방식 역시 한계가 분명하다는 평가다. 메타데이터는 파일에 정보를 삽입하는 방식으로, 캡처하거나 메신저를 통해 전송하는 과정에서 압축이 이뤄질 경우 정보가 쉽게 사라질 수 있다.

민 대표는 “메타데이터 방식은 캡처나 편집만 해도 정보가 깨져 워터마크 기능을 상실한다”며 “픽셀 단위로 정보를 삽입하는 기술은 압축이나 크롭 이후에도 확인이 가능하지만, 이런 기술적 성능 차이나 검증 책임 범위에 대한 기준은 법이나 가이드라인 어디에도 명확히 나와 있지 않다”고 설명했다.

상황이 이렇다 보니 관련 기업들은 1년의 계도 기간 동안 백서나 추가 가이드라인이 나올 때까지 기다려 보자며 관망에 들어섰다. 생성AI스타트업협회 관계자는 "현재 오픈 API 공개 등 개별 정책을 시행하며 현장의 피드백과 정부의 구체적인 가이드라인을 기다리는 단계"라고 전했다.

이와 관련해 과학기술정보통신부와 KOSA측은 워터마크 제도의 핵심은 기술적 진위 검증이 아니라 표시 의무 이행 여부에 있다고 강조한다. 가시적, 비가시적 워터마크를 포함해 어떤 방식으로든 표시 의무만 이행하면 된다는 얘기다. 특히 AI로 콘텐츠를 생성하는 단계에서 워터마크의 유무가 법적인 판단 기준이라고 답했다. 유통 단계에서의 워터마크 훼손 여부를 AI 콘텐츠 생성자가 우려할 필요가 없다는 얘기다.

KOSA 측은 “법적으로 중요한 것은 워터마크가 진짜인지 여부가 아니라, 생성 단계에서 워터마크가 정상적으로 존재하느냐”라며 “개발사나 인공지능 이용 사업자의 서비스에서 워터마크가 생성돼 나온다면 일단 법적 책무는 이행한 것으로 본다”고 설명했다.

이어 “이후 이용자가 워터마크를 훼손하거나 삭제해 유통한 경우까지 기업 책임으로 보기는 어렵고, 행정 처분 역시 표시 의무를 지켰는지 여부를 기준으로 판단하게 될 것”이라고 덧붙였다.