연애·인생도 AI에 털어놓지만…개보법·기본법 경계서 규제 불확실성

AI 심리상담 사례 늘고 있어, 국민 중 69.5% 사용

AI 대화 내용은 개인정보보호법 규제, 다만 AI기본법과 일부 조항 겹쳐

전문가 "사업자, 데이터 어디까지 공개·설명해야 하는지 혼란스러울 것"

[그래픽=아주경제]

연인과 처음으로 다툰 A씨는 자신의 속마음을 털어놓을 곳으로 오픈AI의 인공지능(AI) 서비스 챗GPT를 찾았다. 챗GPT는 A씨의 상황에 공감하며 조언을 건넸고, 이후 그는 종종 연애 상담을 위해 AI를 찾는다. 

직장인 B씨도 인생 상담을 위해 챗GPT를 찾는다. B씨는 자신의 사주, 진로 고민은 물론 가족 간 문제까지 AI와 스스럼없이 나눈다. B씨는 "가족 추천으로 이용해봤는데 챗GPT가 내 상황을 이해해주고 해결책까지 제시해 애용한다"고 말했다. 

24일 정보통신정책연구원의 '2024년 지능정보사회 이용자 패널조사'에 따르면 우리나라 만 15~69세 국민 중 69.5%가 텍스트 기반 생성형AI 사용 이유로 '대화 나눌 상대가 필요해서'라고 답했다. 정보 검색이나 업무 보조를 넘어, AI를 정서적 파트너로 삼는 이용자가 늘어나고 있다는 의미다. 

문제는 이러한 AI와 대화가 단순 데이터가 아니라는 점이다. 이용자의 사적 고민이 담긴 만큼 법적으로 개인정보로 분류될 수 있다. 장준영 세종 변호사는 "AI와 대화 내용의 구체적인 맥락에 따라 우선순위는 나눌 수 있으나 기본적으로 개인정보보호법이 적용되는 사안"이라고 설명했다. 

이와 함께 내년 시행 예정인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)' 역시 투명성과 안전성 확보를 규정하고 있어, AI와 대화 보호 측면에서 개인정보보호법과 일부 조항이 겹칠 수 있다는 우려도 제기된다. 기업 입장에서 어느 수준까지 이용자에게 데이터를 공개하고 설명해야 하는지 혼란이 발생할 수 있다.

정원준 한국법제연구원 AI법제팀장은 "AI기본법과 개인정보보호법이 투명성 및 설명 요구권 측면에서 중복된다"며 "기업 입장에서 어디까지 정보를 공개·설명해야 하는지 기준이 모호해질 수 있다"고 언급했다. 

이성엽 고려대학교 법학전문대학원 교수도 "개인정보보호법에 따라 '안전 조치 의무'를 이행한 기업이 AI기본법상 '안전성 및 신뢰성 조치 의무'를 추가로 이행해야 하는지 불명확하다"며 "AI기본법 하위 법령에서 명확히 정리될 필요가 있다"고 지적했다. 

개인정보보호위원회도 이 같은 문제를 인식하고 있으나 현재로서는 AI기본법 시행령 공개까지 지켜봐야 한다는 입장이다. 개보위 관계자는 "AI기본법은 AI사업자를 위한 큰 틀의 기본법이고 개인정보보호법은 세부 권리 보호를 담당하는 법이라는 부분에서 다르다"라며 "양 부처 간 규제 중복을 최소화하자는 공감대가 형성돼 있으나 실제 적용 범위는 시행령이 공개돼야 명확해질 것"이라고 했다. 

과학기술정보통신부 역시 시행령을 신중히 검토 중이다. 특정 기술이나 서비스를 일률적으로 규제하기보다, 실제 사용 분야와 그에 따른 위험성을 기준으로 세부 규제 체계를 마련한다는 방침이다. 과기정통부 관계자는 "분야별 세부 기준을 마련해 결과에 따라 합리적으로 진흥과 규제 정책을 적용하는 것이 목표"라고 설명했다.