AI 이단아 그록, 인니 이어 英과도 갈등…딥페이크 문제 다시 수면위로

英정부, 그록 게시물에 "역겨워...조치 안 취하면 대응" 경고

각국 AI 콘텐츠 관련 규제 강화 나서...기업들 대응은 '글쎄'

[사진=로이터·연합뉴스]

일론 머스크의 인공지능(AI) 기업 xAI가 다시 한번 혐오 게시물과 딥페이크 영상으로 각국 정부와 갈등을 빚고 있다. 생성형 AI가 만들어낸 콘텐츠의 안전성과 플랫폼 책임을 둘러싼 규제 필요성도 다시 부각되고 있다.

영국 과학혁신기술부 대변인은 8일(현지시간) 성명에서 xAI의 그록이 생성한 혐오·인종차별 게시물에 대해 "역겹고 무책임하다"며 "플랫폼이 책임 있는 조치를 취하지 않을 경우 대응에 나설 수 있다"고 경고했다.

그록은 사회관계망서비스(SNS) 엑스(X·옛 트위터)에서 이용자의 요청에 따라 영국 축구 역사상 다수 사망자가 발생한 '힐스버러 참사'와 관련해 특정 구단과 팬을 비난하고, 이슬람·힌두교 등을 비하하는 게시글을 생성했다.

논란이 확산되자 X는 일부 게시물을 삭제하고 자체 조사에 착수한 상황이다. X가 온라인안전법을 위반한 것으로 판명될 경우 영국 통신 규제당국 '오프콤'은 전 세계 매출의 최대 10% 또는 1800만 파운드(약 360억원)의 벌금을 부과할 수 있으며, 법원 승인을 받아 사이트 차단을 요청할 수도 있다.

그록을 둘러싼 유해 콘텐츠 논란은 이번이 처음이 아니다. 지난 1월에도 그록이 X에서 여성과 미성년자 등 실제 인물을 이용한 성적인 딥페이크 이미지·영상을 생성·유포해 논란이 일었다. 당시 인도네시아는 세계에서 가장 먼저 그록 서비스를 차단했다가 xAI가 개선을 약속한 뒤 차단을 해제하기도 했다.

각국 정부의 생성형 AI로 인한 불법·유해 콘텐츠 확산에 대응책 마련도 심화하고 있다. 영국은 불법 콘텐츠를 신고받은 뒤 48시간 내 삭제 의무를 부과하는 방안을 검토 중이다. 유럽연합(EU) 집행위원회는 지난달 26일 그록과 X의 디지털서비스법(DSA) 위반 여부를 조사하겠다고 공표했다.

호주와 인도네시아 등 일부 국가에서는 청소년 보호를 이유로 16세 미만의 소셜미디어 이용을 제한하는 정책을 도입하거나 추진하고 있다. AI 기반 콘텐츠 확산이 청소년 안전 문제로 이어질 수 있다는 우려 때문이다.

다만 기술 기업들의 대응이 충분한지에 대해서는 의문이 꾸준히 제기되고 있다. X는 지난 1월 오프콤의 조사 착수 이후 실제 인물의 노출 이미지를 편집하는 기능을 제한했지만, 외부 도구를 통한 이미지 조작은 여전히 규제 사각지대에 놓여 있다. 오픈AI 역시 AI 영상 생성 기술과 관련해 실존 인물이나 유명인을 무단으로 복제하는 딥페이크 제작을 금지하는 정책을 두고 있지만, 특정 인물을 직접적으로 재현하는 경우에만 제한이 적용되는 경우가 많아 규제 실효성이 제한적이라는 평가도 있다.

이안 번 영국 하원의원은 "수백만 명에게 영향을 미칠 수 있는 막대한 영향력을 가진 플랫폼이 거짓 주장과 비방, 끔찍한 게시물을 확산시키는 것은 매우 우려스러운 일"이라며 "기업의 사회적 책임 측면에서 스스로를 돌아봐야 한다"고 지적했다.