[청소년 AI 챗봇 과몰입] AI 챗봇 중독…해외는 규제, 한국은 사각지대

제타 MAU 2년여 만에 27배…청소년 AI 챗봇 이용 빠르게 확산

현행 청소년보호법으로 장시간 대화·정서적 의존 등 새로운 위험 대응 한계

부모가 이용 시간 등을 설정할 수 있는 오픈AI ‘청소년용 챗GPT’ 서비스 화면. [사진=오픈AI]

청소년의 인공지능(AI) 챗봇 이용이 빠르게 늘고 있다. 하지만 AI와의 장시간 대화나 정서적 의존을 직접 규율하는 법·제도는 부재한 상황이다. 미국과 영국 등 주요국이 청소년 대상 AI 챗봇의 안전설계와 이용시간 제한 등에 나서는 것과 대조적이다. 

국내에서도 AI 챗봇이 단순 정보검색을 넘어 캐릭터와 관계를 형성하는 서비스로 확산하면서 청소년 보호를 위한 제도 정비가 필요하다는 지적이 나온다.

8일 모바일인덱스 집계에 따르면 스캐터랩의 ‘제타’ 월간활성이용자수(MAU)는 2024년 4월 5만8069명에서 올해 8월 158만6178명으로 약 27배 증가했다. 제타는 이용자가 캐릭터와 세계관을 직접 설정하고 AI와 실시간으로 대화하며 이야기를 만들어가는 AI 기반 인터랙티브 엔터테인먼트 서비스다. 

뤼튼의 ‘크랙’도 이용자가 꾸준히 늘고 있다. 크랙의 MAU는 집계가 시작된 지난해 4월 21만8050명에서 올해 8월 53만8841명으로 약 2.5배 증가했다. 특히 캐릭터 기반 챗봇은 정해진 질문에 답하는 기존 생성형 AI와 달리 지속적인 대화와 관계 형성을 서비스의 핵심으로 삼는 만큼 청소년의 장시간 이용과 정서적 의존 가능성이 새로운 위험 요인으로 지목된다.

국회입법조사처도 이런 위험성을 인지하고 지난 7월 ‘AI 챗봇의 중독적 설계가 만들어낸 구조적 위험에 노출된 아이들’ 보고서를 냈다. 보고서에서는 AI 챗봇의 특성상 무한한 공감 반응, 개인화된 응답, 상시 접속 가능성이 중독으로 이어질 수 있다고 지적했다. 특히 자기통제력과 비판적 사고가 충분히 발달하지 않은 아동·청소년은 정서적 의존이나 사회적 고립, 위험 행동 등에 더 취약할 수 있다고 분석했다.

국내 청소년의 AI 챗봇 이용 자체도 상당한 수준이다. 국회입법조사처가 인용한 조사에 따르면 만 14세 이상 아동·청소년 3300명 가운데 94.4%가 AI 챗봇을 사용한 경험이 있다고 답했다. 이 가운데 75.3%는 챗봇의 답변을 실제 행동으로 옮겼거나 진지하게 고려한 경험이 있다고 응답했다.

문제는 현행 국내 법체계가 이 같은 위험을 직접 겨냥하지 못한다는 점이다. 청소년보호법은 청소년유해매체물의 유통과 접근 제한에 초점이 맞춰져 있고, 개인정보보호법은 만 14세 미만 아동의 개인정보 처리에 법정대리인 동의를 요구하고 있다. AI 챗봇에서 발생하는 장시간 이용, 정서적 의존, 반복적인 관계 형성 같은 문제를 직접 제한하는 규정과는 거리가 있다. 

반면 해외에서는 AI 챗봇 자체를 규제 대상으로 삼는 움직임이 나타나고 있다. 미국 캘리포니아주는 올해부터 ‘AI 컴패니언 챗봇 규제법(SB 243)’을 시행했다. 이 법은 미성년자에게 AI와 대화하고 있다는 사실을 알리고, 일정 시간 이상 대화할 경우 휴식을 유도하는 등의 안전조치를 사업자에게 요구한다. 자살·자해 관련 대화에 대응하기 위한 프로토콜과 미성년자에 대한 성적 콘텐츠 노출 방지 조치도 포함됐다.

영국도 AI 챗봇에 대한 청소년 보호 수준을 높이고 있다. 영국 정부는 미성년자를 대상으로 성적 콘텐츠를 제공하는 AI 챗봇의 이용을 제한하는 한편, 청소년의 챗봇 이용 과정에서 휴식을 유도하는 방안을 추진하고 있다. 정서적 의존이나 과도한 이용, 유해한 정신건강 조언 등을 AI 챗봇의 새로운 위험으로 보고 사업자와 규제기관의 대응을 강화하는 모습이다.

국내 사업자들이 손을 놓고 있는 것은 아니다. 스캐터랩의 제타는 청소년 이용 환경에서 청소년유해매체물 수준의 콘텐츠가 생성되지 않도록 ‘세이프 모드’를 운영하고, 보다 자유로운 표현이 가능한 ‘언리밋 모드’는 성인 인증을 마친 이용자에게만 제공한다. 미성년자로 설정된 캐릭터나 미성년자로 인식될 수 있는 플롯에는 성인 이용자에게도 세이프 모드 수준의 제한을 적용한다.

하지만 이런 조치는 어디까지나 사업자의 자율적인 판단에 따른 것이다. 같은 위험에 노출되더라도 서비스마다 보호 수준이 달라질 수 있고, 이용시간이나 결제액처럼 ‘과몰입’ 자체를 관리하는 장치는 사업자별로 편차가 크다.

이 때문에 오는 10월 국회 국정감사에서도 AI 챗봇의 청소년 보호 문제가 주요 쟁점으로 다뤄질 것으로 보인다. AI 챗봇이 SNS와 게임에 이어 청소년의 일상적인 디지털 서비스로 자리 잡은 만큼, 기존 청소년보호법 체계만으로 충분한지, AI 챗봇의 특성을 반영한 별도의 보호장치가 필요한지 등을 놓고 정부와 국회가 질의에 나설 것으로 예상된다.