서울시, AI로 디지털성범죄 잡는다...도입 7개월만에 영상물 45만건 모니터링

전국 최초 스토킹 피해 전담조직 출범 한 달만에 민간경호, 이주비 지원 등 200건 지원

성착취 피해 아동·청소년 경찰조사시 상담원 파견 및 원스톱 지원, 자립정착금 지원

피해영상 검출시간 97.5% 단축, 삭제지원 2배로 증가…법률·심리지원도 작년 대비 140% ↑

서울시 AI 디지털 성범죄 삭제지원 프로그램 운영실적 [사진=서울시]

서울시가 디지털 성범죄 예방과 피해자 지원을 위해 AI(인공지능) 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만 7440건의 영상물을 모니터링하는 성과를 냈다고 12일 밝혔다.

시는 지난 3월 디지털 성범죄 예방과 피해자 지원을 위해 서울 디지털 성범죄 안심 지원센터(센터)를 개관한 뒤 AI 시스템을 도입했는데, 도입 이후 도입 전 삭제 지원관이 직접 모니터링했을 때보다 무려 1265%나 상승했다. 

해당 시스템은 3개월간의 테스트 기간을 거쳐, 현재 SNS상의 피해영상물을 24시간 실시간 자동으로 추적·감시해 찾아내는 역할을 하고 있다.
 
시는 시스템 도입 후 실제 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다고 밝혔다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축됐다.

또 사회관계망서비스(SNS) 특성상 전파·공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 24시간 모니터링이 필요한데, AI는 자동 모니터링이 가능하기 때문에 사람이 일하지 않는 새벽 시간대에도 모니터링할 수 있고, 삭제 지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점이 있다.

특히 최근 디지털 성범죄 유포 방식은 검거를 피하고자 금요일 밤에 올리고 주말에만 유포하며, 짧은 시간 유포하고 다시 삭제하는 등 지능형 범죄가 증가함에 따라 삭제 지원관이 근무하지 않는 시간에 AI를 통해 실시간 모니터링을 하는 부분은 매우 중요하다.

모니터링이 가능한 영상물의 절대 숫자는 크게 늘고 피해영상물 검출시간은 대폭 줄면서, 피해영상물 삭제지원 역시 2배로 늘었다. AI 기술이 도입되기 전 2049건에 달했던 적발건수는, AI 기술 도입 이후 4141건으로 102% 증가했다.

이와 관련해 서울시는 ‘서울 디지털 성범죄 안심 지원센터’를 통해 피해영상물 삭제지원은 물론, 긴급상담부터 수사·법률지원, 심리치료·의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월 말까지 392명의 피해자를 지원했으며, 총지원 건수는 1만5002건으로 이미 작년 지원 건수(6241건)를 140% 상회했다.

시가 지원한 피해자의 연령대는 10~20대(51%, 200명)가 가장 높은 비율을 차지했으며, 이 중 10대 비율은 13.5%(53명)로 나타났다. 시는 경찰과의 협력을 통해 1060건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률·소송 및 1383건의 심리치료도 지원했다.

아울러 시는 지난 9월 전국 최초로 스토킹 피해 전담 조직인 ‘스토킹 피해자 원스톱 지원 사업단’을 출범해 범죄 예방과 피해자 지원에 나서고 있다. 사업단은 안전 지원 3종(이주비·민간 경호·보호시설), 일상 회복지원 3종(법률·심리·의료)을 통해 안전부터 일상 회복까지 원스톱으로 지원한다.

또 사업단은 피해자의 욕구에 맞는 지원 대책을 마련하고 위험단계별로 1~3개월간 피해자를 모니터링하고, 서울시-서울경찰청-민간 경호업체 간 협력을 통해 지자체 최초로 ‘고위험 스토킹 범죄 피해자 민간 경호 서비스’를 10월부터 본격 운영하고 있다.

오세훈 서울시장은 "n번방 사건 등 디지털 성범죄는 우리 사회에 큰 충격을 주었으며, 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다"며 "서울시는 디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심 도시 서울’을 만드는 데 최선을 다하겠다"고 말했다.