"챗GPT 불편사항 제보하세요"

이용자 참여 플랫폼 개설…"폭력‧성범죄 등 다양한 위험 사례 공유"

[사진=방미통위]

챗지피티(ChatGPT) 등 생성형 인공지능(AI) 서비스 이용 중 발생할 수 있는 폭력이나 성범죄 등 다양한 위험 사례를 제보할 수 있는 전문 창구가 마련됐다.

방송미디어통신위원회와 한국정보통신진흥협회는 31일부터 ‘생성형 인공지능 이용자 참여 플랫폼’을 개설·운영한다고 밝혔다. 방송통신이용자정보포털에서도 접속할 수 있다.

이 플랫폼은 국민 누구나 생성형 AI 서비스 이용 과정에서 겪은 위험성과 불편 사항을 제보하고, 관련 정보를 사업자와 이용자에게 공유할 수 있는 소통 창구다. 최근 챗지피티, 클로드(Claude), 제타(Zeta) 등 생성형 AI 서비스 확산과 함께 폭력·성희롱·성범죄 등 다양한 피해 사례가 보고되자, 정부가 자율적 개선을 유도하기 위한 대응책으로 마련했다.

이용자는 서비스 이용 중 경험한 위험 사례를 제보하면 해당 내용이 사업자에게 전달돼 개선 조치로 이어진다. 제보자는 처리 진행 상황과 결과를 직접 확인할 수 있으며, 제보 내용은 위험 통계와 경향 분석에 활용된다. 이를 통해 이용자 주의사항과 경각심을 높이는 정보도 정기적으로 제공된다.

플랫폼은 위험성·역기능 제보, 위험 관련 통계 및 분석자료 제공, 유형별 생성형 AI 서비스 이용 방법과 특성 안내 등의 기능으로 구성됐다. 텍스트·이미지·음성 등 서비스 유형별 이용 유의사항과 역기능 방지 방법도 함께 제공한다.

방미통위는 앞서 2월부터 전문가 연구반을 운영해 제보 절차와 위험성 분류 체계를 마련하고, 7월과 9월에는 사업자 간담회를 열어 제보가 실제 서비스 개선으로 이어질 수 있도록 의견을 수렴했다.

방송미디어통신위원회 관계자는 “플랫폼을 통해 수집된 제보를 기반으로 인공지능 서비스의 위험성을 분석하고 제도 개선 등 정책에 반영할 계획”이라며 “이용자 참여형 플랫폼을 통해 신종 역기능을 신속히 인지하고 사전 대응할 수 있을 것으로 기대한다”고 밝혔다.