중앙디성센터 "AI 도입 후 성착취물 삭제 속도 10배↑"

지난 4월부터 AI 적용…삭제 지원건수 2배 증가

내년까지 탐지 플랫폼 확대·대화맥락 분석 추진

10일 오전 서울 중림동 한국여성인권진흥원에서 중앙디지털성범죄피해자지원센터 관계자가 인공지능(AI) 기반 삭제지원시스템에 관해 설명하고 있다. [사진=성평등가족부]

한국여성인권진흥원 중앙디지털성범죄피해자지원센터(중앙디성센터)에 인공지능(AI) 탐지 시스템이 도입된 후 하루 평균 아동·청소년 성착취물 삭제 지원 건수가 10배 가까이 늘어난 것으로 나타났다.

중앙디성센터는 10일 서울 중림동 진흥원에서 열린 프레스투어에서 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템 도입 성과를 공개했다.

센터가 지난 4월 도입한 AI 시스템은 온라인상의 성착취물과 유인 정보를 24시간 자동으로 탐지·분석하는 체계다.

현재 구글·엑스·블루스카이·텔레그램 등 사회관계망서비스(SNS) 4곳과 채팅 애플리케이션 10종에서 미성년자 성착취물·유인 정보를 자동으로 수집·분석하고, 이후 담당자 검토를 바탕으로 삭제 요청 등을 한다.

지난 6개월간 운영한 결과 아동·청소년 성착취물 9만6210건의 삭제가 이루어졌다. 수작업으로 삭제를 지원하던 지난해 4만5438건과 비교하면 두 배 이상 늘어난 수치다.

월평균 삭제 지원 건수는 지난해 3787건에서 올해 4~9월 1만6035건으로 약 4.2배, 센터 직원 1명의 하루 평균 삭제 처리 건수는 20.8건에서 202.1건으로 9.7배가량 뛰었다.

중앙디성센터 관계자는 "센터가 보유한 4만여건의 이미지·텍스트를 학습시킨 AI 시스템을 도입한 결과 삭제 처리 속도가 크게 향상되고, 성착취물 노출로 인한 직원들의 심리적 부담도 완화됐다"고 말했다.

김미순 중앙디지털성범죄피해자지원센터장이 10일 오전 서울 중림동 한국여성인권진흥원에서 열린 프레스투어에서 발언하고 있다. [사진=성평등가족부]

성평등가족부와 진흥원은 AI 탐지체계를 고도화해 성착취물 삭제 지원의 효율성과 대응 역량을 높여 나갈 계획이다. 과학기술정보통신부와 협업해 내년까지 탐지 대상 플랫폼을 기존 74개에서 139개로 확대하고, 대화의 흐름과 맥락까지 이해할 수 있도록 AI 성능을 개선한다.

김미순 중앙디성센터장은 "피해자의 요청이 없어도 아동·청소년 성착취물을 선제적으로 찾아 삭제를 지원하고 있다"면서 "AI로 피해자를 더 빨리 발견하고, 필요한 지원을 더 신속하게 연결하도록 하겠다"고 말했다.

국내외 유관기관과의 협력도 강화한다. 성착취물 불법 유통이 주로 해외 플랫폼에서 이루어지는 데다, 이들 가운데 30%는 중앙디성센터의 삭제 요청에 응하지 않고 있기 때문이다.

김성벽 성평등부 디지털성범죄방지과장은 "새로운 기술을 개발하면 이를 우회하는 기술도 계속 나온다"면서 "최신 기술을 도입해 삭제 효용성을 높이는 동시에 관계부처와 제도 개선을 통해 끝까지 추적·차단하는 게 정부 방침"이라고 말했다.