[AI챗봇 과몰입, 법으로 규제] [단독] 청소년 AI 챗봇 과몰입 법으로 막는다....국회, 연령확인·이용시간 제한 추진

이주희 더불어민주당 의원실, 정보통신망법 개정안 발의

과도한 이용 주의사항 표시·이용시간대 제한 등이 골자

[사진=게티이미지뱅크]

국회가 대화형 인공지능(AI) 서비스에 대한 청소년 보호체계를 마련한다. 미성년자 연령 확인, 이용 시간대 제한 등을 마련해 AI 챗봇 과몰입을 예방한다는 취지다.

1일 이주희 더불어민주당 의원은 대화형 AI 서비스의 청소년 이용자 보호를 위한 '정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법)' 개정안을 발의한다고 밝혔다.

핵심은 미성년자의 대화형 AI 서비스의 과도한 이용을 방지하는 데 있다. 개정안에는 △이용자 연령 및 본인 확인 △과도한 이용에 관한 주의사항 표시 △이용시간 경과 내역 표시 △미성년자 본인 또는 법정대리인 요청 시 이용 방법과 이용시간대를 제한할 수 있는 수단 제공 등이 담긴다.

이용자가 AI와 얼마나 오래 대화했는지 인지하도록 하고, 미성년자나 보호자가 필요에 따라 이용을 조절할 수 있도록 사업자에게 보호 수단을 마련하라는 것이다. 다만 과거 '게임 셧다운제'처럼 일률적으로 이용시간을 제한하기보다 본인 또는 법정대리인 요청에 따라 이용방법과 시간대를 관리할 수 있도록 하는 데 초점을 맞췄다.

입법 배경에는 생성형 AI 서비스, 특히 이용자와 정서적 교류를 나누는 동반자형 AI 챗봇 확산이 있다. 정보를 검색하거나 업무를 돕는 기능을 넘어 친구처럼 대화하고 관계를 형성하는 서비스가 늘면서 미성년자의 과몰입과 정서적 의존에 대한 우려가 커지고 있다. 이에 청소년이 자신의 이용 상태를 파악하고 보호자가 개입할 수 있는 장치가 필요하다는 논의가 이어지고 있다.

김나정 국회입법조사처 사회문화조사실 입법조사관보는 지난 7월 발간한 'AI 챗봇의 위험에 노출된 아동·청소년' 보고서를 통해 "AI 챗봇의 구조적 위험에 대응하기 위한 안전장치가 미흡한 상황"이라며 "특히 미성년자 보호 체계에 공백이 있다"고 밝혔다.

국정감사에서도 AI 챗봇 문제를 다룬다. 국회 과학기술정보방송통신위원회(과방위)는 'AI 챗봇 관련 위험성'을 살펴보기 위해 김종윤 스캐터랩 대표이사를 오는 12일 열릴 방송미디어통신위원회 국정감사 증인으로 채택했다. 스캐터랩은 이용자가 AI 캐릭터와 대화하는 플랫폼 '제타'를 운영한다.

국회는 이번 국감에서 AI 챗봇의 유해 콘텐츠 노출 위험, 청소년 보호조치 등을 들여다볼 전망이다. 김 대표를 상대로 미성년자의 과도한 이용을 막기 위한 관리 체계, 대응 방안 등을 질의할 것으로 예상된다.