성 착취 딥페이크 논란…머스크 AI '그록'에 칼 빼든 각국 정부

미성년자·여성 보호 이유…인도네시아 이어 말레이시아도 차단

"옷 벗겨라" 명령까지…머스크의 '표현의 자유' 시험대에

[사진=로이터, 연합뉴스]

일론 머스크가 설립한 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 성 착취 딥페이크 콘텐츠 논란에 휘말린 가운데, 인도네시아에 이어 말레이시아도 그록 접속을 차단했다.

로이터통신 등 외신에 따르면 말레이시아 통신멀티미디어위원회(MCMC)는 11일(현지시간) 성명을 통해 자국 내 그록 서비스 접속을 일시적으로 제한한다고 밝혔다.

MCMC는 "그록이 여성과 미성년자를 포함한 실존 인물의 이미지를 동의 없이 조작해 음란하고 성적으로 노골적인 콘텐츠를 생성하는 데 반복적으로 악용돼 왔다"며 차단 결정의 배경을 설명했다. 이어 "외설적이고 심각한 불쾌감을 유발하는 딥페이크 콘텐츠 확산을 방치할 수 없다고 판단했다"고 덧붙였다.

MCMC는 이달 초 xAI 측에 공문을 보내 기술적 보호 조치 마련을 요구했으나 "xAI가 내재적 위험을 충분히 통제하지 못한 채 사용자 신고 메커니즘에 의존했다"고 지적했다. 이어 관련 입법과 규제 절차가 진행되는 동안 합리적인 예방 조치로 접속 차단을 시행하며, 여성과 아동을 보호할 수 있는 실질적인 안전장치가 마련될 때까지 제한을 유지하겠다고 밝혔다.

앞서 인도네시아 통신디지털부는 지난 10일 세계 최초로 그록 접속 차단 조치를 내렸다. 무티아 하피드 통신디지털부 장관은 "AI로 생성된 가짜 음란물로부터 여성과 아동을 보호하기 위한 결정"이라고 설명했다.

그록은 소셜미디어 엑스(X) 플랫폼 내에서 제공되는 AI 챗봇으로, 지난달 말 이미지 생성·편집 기능이 추가된 이후 논란이 본격화됐다. 일부 이용자들이 실존 인물의 사진을 입력한 뒤 "옷을 벗겨라", "수영복을 입혀라" 등의 명령을 내리자, 그록이 이를 그대로 수행해 선정적인 이미지를 생성했고 해당 결과물이 X에 즉시 게시되면서 문제가 불거졌다.

이 기능을 통해 온라인에 공개된 일반인의 사진도 속옷이나 수영복 차림의 이미지로 변형돼 유포될 수 있다는 점에서 우려가 커졌다. 챗GPT나 구글 제미나이 등 다른 AI 서비스가 성적 이미지 생성을 제한하는 것과 달리, 그록은 '표현의 자유'를 명분으로 이를 허용해 왔다.

유럽 비영리단체 'AI 포렌식스'가 지난달 25일부터 이달 1일까지 그록이 생성한 이미지 20만 건을 분석한 결과, 절반이 넘는 53%가 속옷이나 비키니 차림의 인물을 담고 있었으며 이 가운데 여성으로 보이는 인물 비중은 81%에 달했다. 전체 이미지 중 약 2%는 18세 이하로 추정됐다.

논란이 확산되자 엑스와 xAI는 지난 9일부터 X 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하기 시작했다. 현재 그록은 이미지 생성이나 편집을 요청하는 이용자에게 월 8달러의 유료 구독이 필요하다는 안내를 하고 있다.

AI가 생성·조작한 콘텐츠를 둘러싼 책임 논쟁은 쉽게 가라앉지 않을 전망이다. 최근 인도를 시작으로 영국과 프랑스 등 주요 국가의 규제 당국이 잇따라 그록에 대한 조사에 착수했다.

한편 머스크는 10일(현지시간) 자신의 X 계정을 통해 게시물·광고 추천 방식을 포함한 X의 새로운 알고리즘을 7일 이내에 오픈소스로 공개하겠다고 밝혔다. 그는 “4주마다 변경 사항을 업데이트하고, 개발자 노트를 통해 내용을 투명하게 설명하겠다”고 덧붙였다.