"규제·소송 봇물" AI캐릭터챗 시험대...美선 파산, 韓은 국감장 선다

캐릭터.AI, 파산보호 신청하고 자산 매각 추진

국내 제타도 청소년 보호 논란…스캐터랩 김종윤, 교육위 국감서 질의 예정

스캐터랩이 ‘제타’의 청소년 이용자 보호를 강화한다. [사진=스캐터랩]

인공지능(AI) 캐릭터와 대화하는 AI캐릭터챗 산업이 사업 지속성과 이용자 보호라는 시험대에 올랐다. 미국에서는 주요 플랫폼이 파산보호 절차에 들어갔고, 국내에서는 관련 기업 대표가 국정감사 질의를 앞두고 있다.

16일 정보기술(IT) 업계에 따르면 미국 캐릭터챗 플랫폼 '캐릭터.AI'는 최근 파산보호 절차에 들어가 법원 감독 아래 자산 매각을 추진하고 있다. 2021년 구글 출신 개발자들이 설립한 이 회사는 이용자가 직접 만든 AI 캐릭터와 대화하거나 소설·게임 속 인물과 역할극을 할 수 있는 서비스를 제공해 인기를 끌었다. 

2023년에는 1억5000만달러 규모의 투자를 유치하며 기업가치 10억달러를 인정받았다. 2024년에는 월간 활성 이용자 수가 2000만명에 이르는 등 성장세를 보였다.

그러나 이용자 규모 확대가 수익으로 이어지지는 않았다. 생성형 AI 서비스를 운영하는 데 필요한 컴퓨팅 비용 부담이 지속되는 가운데 미성년자 이용자의 정신건강과 관련한 소송, 신설된 규제 대응 등도 사업에 부담으로 작용했다.

캐릭터.AI는 지난 12일 미국 델라웨어주 법원에 파산보호를 신청하고 자산 매각 절차에 착수했다. 디즈니가 일부 지식재산권에 대한 영구 라이선스 등을 포함해 2000만달러를 제시했지만, 플랫폼 운영을 이어갈 인수자가 나오지 않으면 서비스가 종료될 가능성도 있다.

이 사례는 캐릭터챗 서비스가 이용자들의 높은 관심과는 별개로 사업의 지속 가능성을 담보하기는 어렵다는 점을 보여준다. 이용자와의 대화를 길게 이어가도록 설계된 서비스 특성상 AI 모델 운영 비용이 누적될 수 있고, 정서적 의존이나 유해 콘텐츠 노출을 방지하기 위한 안전장치에도 지속적인 투자가 필요해 조금만 경쟁이 심화되도 고비용 저수익 구조가 심화할 수 있기 때문이다. 

국내에서는 캐릭터챗 서비스의 책임과 안전성을 둘러싼 논의가 이어지고 있다. AI 캐릭터챗 서비스 '제타'를 운영하는 스캐터랩의 김종윤 대표는 올해 국회 과학기술정보방송통신위원회 국정감사에 해외 출장을 이유로 불출석했다.

지난해 국감에서도 국감 파행으로 관련 질의를 받지 못한 가운데, 오는 23일 교육위원회 국정감사에 출석해 관련 사안에 대한 질의를 받을 예정이다.

국내외 정치권과 규제 당국이 주목하는 쟁점은 청소년의 유해 콘텐츠 노출과 AI 캐릭터에 대한 정서적 의존, 과몰입, 개인정보 보호 등이다. 이용자가 AI 캐릭터와 지속적으로 상호작용하는 서비스인 만큼, 연령별 보호 장치와 유해 대화 차단 체계가 실효성 있게 작동하는지, 기업이 이용자 안전에 어느 수준까지 책임을 져야 하는지가 주요 과제로 꼽힌다.

업계 관계자는 "캐릭터챗 서비스는 이용자와의 지속적인 상호작용이 핵심인 만큼 이용자 보호와 서비스 운영 비용을 함께 고려해야 한다"며 "이용자 규모를 키우는 것 뿐 아니라 안전한 서비스 환경을 구축하고 지속 가능한 수익 모델을 확보하는 것이 업계의 중요한 과제가 될 것"이라고 말했다.