'장대한 분노'와 '그록'의 역설... 전쟁터에서 실력 입증한 AI, 윤리는 '낙제점'

'오염된 데이터' 학습한 AI…이제는 '사회화 교육' 받아야 할 때

AI 뒤에 숨은 사용자...해독력 키우고 책임 명확히 해야

[사진=로이터·연합뉴스]

이란에 대한 미국 공습 작전인 '장대한 분노'에서 인공지능(AI)이 사실상 설계자 역할을 수행하며 압도적인 성능을 입증했다. 하지만 이와 대조적으로 일상에서 접하는 AI 모델들은 인종차별과 혐오 콘텐츠를 쏟아내며 심각한 윤리적 결함을 드러내고 있다. 전장을 설계하고 압도할 만큼 고도화된 지능이 정작 기초적인 인류 보편적 가치 앞에서는 무너지고 있다. AI가 윤리적 통제를 벗어날 때 초래할 '비인도적 대량살상'에 대한 공포가 커지는 이유다.

전문가들은 AI에게도 혹독한 ‘사회화 과정’이 필요하며 나아가 강력한 지능의 핸들을 잡은 인간의 윤리적 제한과 비판적 해독력(리터러시)을 제도화하는 것이 시급하다고 입을 모은다.

'오염된 데이터' 학습한 AI…이제는 '사회화 교육' 받아야 할 때

일론 머스크의 '그록'(Grok) 등 일부 AI 모델이 인종차별과 혐오 콘텐츠를 생성하며 논란의 중심에 섰다. 도널드 트럼프 대통령이 공유한 '원숭이 오바마' 비하 영상, 영국 정부가 "역겹다"고 공식 대응한 그록의 리버풀 조롱 게시물 사건이 대표적이다.

그록은 앞서 지난 1월에도 미성년자 딥페이크 성착취물을 생성하는 등 지속적인 콘텐츠 안전성 논란에 휘말렸다. AI가 소셜미디어(SNS) 게시물과 뉴스 등 인간 사회의 방대한 데이터를 학습하는 과정에서 정제되지 않은 데이터를 무분별하게 흡수한 결과라는 분석에 힘이 실린다.

그록은 머스크가 소유한 'X'(옛 트위터)상에서 데이터를 주로 학습한 것으로 추정된다. 글로벌 시장조사업체 스타티스타(Statista)에 따르면 2025년 기준 X 이용자 중 약 64%가 18~34세인 젊은 층이었다. 타 SNS에 비해 여론 형성이 즉각적이고 휘발성이 강한 '날것'의 데이터 구조가 그록의 학습 결과에 고스란히 반영됐다고 볼 수 있다.

2022년 머스크가 인수한 이후 완화된 콘텐츠 관리 정책도 데이터 오염을 가속화했다. 영국 비영리단체 디지털혐오대응센터(CCDH)는 2023년 보고서를 통해 머스크에 인수된 이후 X에서 혐오 발언이 급격히 확산했다는 분석을 내놓은 바 있다. 한국인공지능법학회장인 최경진 가천대 법학과 교수는 “X 데이터는 다른 SNS에 비해 상대적으로 더 공격적이고 정제되지 않은 콘텐츠가 많을 수 있다"며 "이런 데이터 속성이 AI(그록) 학습에 그대로 투영된 것"이라고 짚었다.

이 같은 편향성을 해결하기 위해서는 사후 통제와 지속적인 재학습이 필수적이다. 인간이 가정과 학교 교육을 통해 사회 구성원으로 성장하듯이 AI 역시 문제가 발생했을 때 '잘못된 표현'임을 가르치는 과정이 필요하다는 지적이다. 최 교수는 “사람도 불완전하지만 계속 교육받으며 나아지듯이 AI 역시 사회화 과정이 필요하다”며 “문제가 되는 결과가 나왔을 때 이를 재학습시켜 재발을 막는 것이 핵심 과제”라고 말했다.

AI 뒤에 숨은 사용자···해독력 키우고 책임 명확히 해야

전문가들은 AI 자체의 윤리를 따지기보다 기술을 비판적으로 바라보는 해독력을 강화하고 사용자의 책임을 명문화해야 한다고 강조한다. 일상의 혐오 콘텐츠 생성이나 전장의 비인도적 타격 모두 결국 인간이 입력한 '프롬프트(명령어)'에서 비롯되기 때문이다. 기술적 보완만으로는 인간의 악의적인 의도를 완전히 차단하기 어렵다는 뜻이다. 고려대 기술법정책센터장인 이성엽 교수는 "AI에 과의존하거나 맹신하는 리터러시 부족이 문제"라며 "AI의 잠재적 위험을 비판적으로 인식하는 리터러시 교육을 국가적 차원에서 조기에 실시해야 한다"고 강조했다.

동시에 도구를 쥐고 있는 사용자의 윤리적 한계를 법적으로 명확히 규정해야 할 시점이라는 목소리도 높다. 이 교수는 "인간의 생명이나 존엄이 위협받는 상황이 목격되고 있는 만큼 이제는 자율 윤리를 넘어 법적 규제가 필요한 심각한 단계”라며 "불법 콘텐츠나 위험 상황에 대한 플랫폼과 사용자 책임을 법적으로 대폭 강화해야 한다”고 지적했다. 최 교수 역시 "윤리적인 AI를 만드는 것은 사업자와 이용자가 함께 짊어져야 할 공동의 책임"이라며 사회적 협력을 당부했다.