'한남충' 삭제하고 '김치녀' 두는 이유? 페이스북, AI 활용한 커뮤니티 정책 소개

혐오발언, AI 활용해 1차 삭제... 애매한 경우 사람이 판단

특정 국가 혐오 명백한 '한남충·쪽바리'는 삭제... '김치녀'는 사견 섞여 있어 판단 어려워

페이스북이 인공지능(AI) 기술을 활용해 테러, 불법무기거래, 약품거래, 혐오발언을 자동 감지·삭제하고 있다고 강조했다.

29일 업계에 따르면, 페이스북은 28일 서울 강남구 역삼동 페이스북코리아 사옥에서 기자간담회를 개최하고 '2~3분기 커뮤니티 규정 집행 보고서' 관련 내용을 설명했다.

이에 따르면 페이스북은 지난 5년 동안 AI 기술에 지속적인 투자를 단행해 위법 콘텐츠 감지와 삭제율을 높였다. 특히 혐오 발언 감지 능력을 집중 향상해, 지난 분기 삭제율 68% 대비 크게 향상된 80%를 기록했다. 이는 AI가 혐오 발언에서 공통으로 발견되는 문자열과 이미지를 학습한 후 이용자가 올린 모든 게시물을 모니터링하는 방식으로 진행된다.

하지만 AI가 혐오 발언인지 판단하기 힘든 경우가 많아 사람이 직접 판단을 내리는 경우도 많다.

대표적인 사례가 '한남충'과 '김치녀'다. 과거 페이스북에선 한남충은 자동 삭제됐지만, 김치녀는 남아 있어 논란이 일기도 했다.

유동연 페이스북코리아 콘텐츠 정책 매니저는 "혐오 발언은 게시물의 뉘앙스와 맥락을 파악하는 것이 중요하기 때문에 전적으로 AI에만 의존할 수 없다"며 "한남충은 한국이라는 국적을 토대로 한 혐오 발언이기 때문에 규정에 따라 삭제 조치했고, 김치녀는 게시자의 주관적 의견에 따라 정의된 개념이라 삭제하지 않았다"고 설명했다. 유사한 사례로 '쪽바리'처럼 일본 국적을 비난하는 것을 페이스북이 삭제한 경우가 있다.

이어 유 매니저는 "페이스북은 AI를 활용해 아동 포르노, 불법무기, 마약거래 등 반인륜적인 범죄를 95% 이상의 높은 사전 감지율로 차단하고 있다"며 "전 세계에서 1만5000여명의 모니터링 인력이 AI와 함께 불법 게시물을 365일 24시간 모니터링하고 있다"고 전했다.

 

유동연 페이스북 콘텐츠 정책 매니저. [사진=페이스북 제공]