'딥페이크 성범죄물' 찾는다...'AI 범죄 대응 범부처 협의체' 출범

범부처 공동 대응 체계 본격 가동...AI 범죄 근절 종합 대응 계획 마련

원민경 성평등가족부 장관이 26일 정부서울청사에서 열린 제37차 성평등정책담당관 협의체 회의에 참석해 각 부처의 성평등정책 이행 상황을 점검하며 부처 간 긴밀한 협업과 소통을 당부하고 있다. [사진=성평등가족부]

급증하는 인공지능(AI) 기술 이용 범죄에 체계적으로 대응하기 위한 ‘AI 범죄 대응 범부처 협의체’가 공식 출범했다.

방송미디어통신위원회는 26일 ‘AI 범죄 대응 범부처 협의체’ 킥오프 회의를 개최하고, 그간 세 차례 실무회의를 통해 마련해 온 ‘AI 범죄 근절 종합 대응 계획’ 및 ‘AI 범죄 통합 대응체계 구축 방안’을 논의했다.

AI 범죄 대응 범부처 협의체는 방송미디어통신위원회, 과학기술정보통신부, 외교부, 법무부, 성평등가족부, 금융위원회, 공정거래위원회, 개인정보보호위원회, 식품의약품안전처, 경찰청 등으로 구성된다.

최근 크게 늘고 있는 딥페이크 성착취, AI 허위·부당광고, AI 금융사기 등 AI 악용 범죄는 온라인 플랫폼, 금융, 통신, 개인정보, 수사, 국제협력 등 다양한 분야 및 서비스에 밀접하게 연관돼 있는 만큼 관계부처 간 유기적 협력과 공동 대응이 중요하다는 인식에서다.

이날 회의에서 논의된 ‘AI 범죄 근절 종합 대응 계획’은 AI 범죄 예방, 탐지·차단, 수사·단속, 피해회복, 재발방지 등 대응 전 과정을 아우르는 범정부 차원의 유기적 대처 방안을 담고 있다. 관계부처가 각자의 전문성과 정책 수단을 연계해 AI 범죄에 보다 효과적으로 대응하는 데 중점을 두고 있다.

특히 성평등부는 AI 기반 아동·청소년 온라인 성착취 선제 차단 시스템을 고도화하고, 불법 촬영물 유통 사이트에 대한 분석을 바탕으로 삭제 불응·반복 게시 행위에 대한 제재를 강화할 계획이다. 불법 유해사이트 폐쇄, 차단도 함께 추진한다. 

관계부처는 AI 범죄 정보를 보다 신속하게 공유하고 관련 징후를 공동으로 분석·대응할 수 있는 상시적 통합 대응체계 운영 필요성과 추진 방안에 대해서도 공감했다.

이 날 첫 회의를 주재한 고민수 방미통위 상임위원은 “AI 기술 발전은 새로운 기회와 함께 새로운 위험도 가져오고 있다”면서 “AI 기술을 악용한 범죄는 어느 한 기관의 노력만으로 대응하기 어려운 만큼 관계부처가 긴밀히 협력해 국민 피해를 예방하고, 안심하고 AI를 활용할 수 있는 환경을 만들어 나가겠다”고 밝혔다.

한편 방미통위는 이날 관계부처 합동으로 마련한 ‘AI 범죄 근절 종합 대응계획’을 향후 국가AI전략위원회 등과 협의를 거쳐 발표할 예정이다.