네이버제트, 제페토 내 안전 기능 강화…그루밍 방지 기술 도입

안전 캐릭터 '소테리아'도 선봬

네이버제트가 25일 론칭한 안전 캐릭터 '소테리아'[사진=네이버제트]

네이버제트는 제페토 애플리케이션(앱) 내 신고 기능을 개선하고 안티 그루밍 기술 도입, 안전 캐릭터 론칭 등을 통해 이용자 보호에 적극 나선다고 밝혔다.

이번 업데이트로 '미성년자의 안전' '괴롭힘·따돌림' '혐오 행위' 등 신고 옵션을 더욱 확장했다. 또한 더 빠르게 신고할 수 있도록 신고 메뉴 상단에 '미성년자의 안전' '자살·자해' 등 중대한 위반 행위를 배치했다. 모든 연령대 이용자가 이해하기 쉬운 표현으로 설정했다는 게 네이버제트의 설명이다.

이와 함께 사이버 범죄 수사 의뢰, 저작권 위반 신고, 자살·자해 방지 등 정보를 담은 고객센터 게시물 링크와 함께 신고와 동시에 '유저(이용자) 차단하기' 기능도 함께 제공한다. 앱 안팎에서 메타버스의 안전한 이용을 돕는 공식 캐릭터 '소테리아'도 선보였다.

네이버제트 관계자는 "제페토는 신고한 유저, 신고 당한 유저 모두에게 커뮤니티 가이드라인 위반 사항을 자세하게 설명한다. 이는 제재를 받은 이용자가 신고 사항에 대해 상세히 안내를 받으면 가이드라인 재위반 비율이 감소한다는 연구에 기반한 조치"라고 강조했다.

아울러 네이버제트는 아동 청소년을 성적 착취·학대로부터 보호하기 위해 비영리단체 쏜(Thorn)과 협력해 그루밍 대화를 스캔하는 안티 그루밍 기술을 채팅 기술에 도입했다. 그루밍 초기 지표를 탐지해 전담 팀에서 해당 계정에 대한 조치도 실시한다.

노준영 네이버제트 안전 전문팀 리드는 "안전한 메타버스 환경을 조성하기 위해 유해한 콘텐츠를 보다 정확하게 판단, 추적하는 기술을 고도화하고 지속적으로 모니터링 하겠다. 신고된 콘텐츠·유저에 대한 유의미한 피드백을 공유해 투명성과 책임을 이어 나가고 이용자 보호를 최우선으로 삼고 글로벌 단체와 협업하겠다"고 말했다.