미성년자 노리는 '온라인 그루밍'...서울시, AI 탐지기술로 잡는다

아동·청소년 5명 중 1명 온라인 그루밍 접근 경험

트리거 신호 대화패턴 AI 탐지기술 '서울 안심아이' 연내 개발

서울시 온라인그루밍 피해 실태 조사 그래픽. [사진=서울시]

아동·청소년을 타깃으로 한 ‘온라인 그루밍’이 증가하자 서울시가 전국 최초로 AI에 기반한 ‘서울 안심아이(eye)’를 개발해 24시간 탐지 및 대응에 나선다고 1일 밝혔다.

‘온라인 그루밍’은 SNS, 오픈채팅 등에서 알게 된 미성년자에게 친절하고 다정하게 접근해 환심을 사고 친밀감을 형성한 뒤 경계심이 흐려진 상대에게 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다. 

시 설문조사에 따르면 선물을 주거나 성적대화를 요구하는 등 온라인 그루밍 접근을 경험한 아동·청소년은 5명 중 1명꼴(19%)로 나타났다. 최근 3년간 디지털성범죄 등 온라인 성착취 발생 건수는 7만6042건에 달했지만 신고율은 7.4%에 그쳐 드러나지 않은 피해가 많을 것으로 예상된다. 선제적인 개입을 통한 피해 예방이 무엇보다 중요한 이유다.

‘서울 안심아이(eye)’는 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간으로 탐지한다. 위험 징후 포착 즉시 피해지원기관에 긴급 알림을 전송하면 피해지원기관에서 개입해 피해 확산을 초기에 차단하는 기술이다. 

대화 흐름 속에서 “사진 보낼래?”, “영상통화 할까?”, “집이 싫으면 가출해 보심?”, “용돈 받고 뭐 원하는 거 해주고 그러는 거야”와 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다.

피해지원기관(다시함께상담센터 등)에서는 피해 확산 방지와 예방 조치가 적극적으로 이뤄질 수 있도록 전문 상담사를 배정해 초기 대처법을 안내하고, 상담과 수사 지원까지 한다. 또한 지속적·반복적으로 온라인 그루밍을 시도하는 계정에 대해서는 신고·고발을 병행하는 등 실질적인 대응에 나선다. 

시는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발한다는 계획이다. 이를 통해 선제적인 개입을 통한 피해 예방에 적극 나설 예정이다.

마채숙 서울시 여성가족실장은 “디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다”고 말했다.