​[A이슈] “저는 AI입니다”…AI 챗봇에 ‘자기소개’ 시키는 까닭은?

사람과 대화하는 ‘챗봇’, 미리 자기소개하도록 규정…위반시 1000만원 과태료

“오해하지 않도록, 신뢰 확보 차원”…구글도 AI 비서에 자기소개 먼저 시키기로

[이미지=아이클릭아트 제공]

인공지능(AI) 기반의 대화형정보처리시스템인 ‘챗봇(Chat-Bot)’에 ‘자기소개’를 강제하는 법안이 국회에서 발의됐다. 최근 쇼핑몰 상담 등 다양한 분야에서 챗봇 활용이 본격화하는 가운데 상대방에 사람이 아닌 챗봇과 대화 중이라는 사실을 미리 알려 불필요한 오해를 방지해야 한다는 이유에서다.

송희경 자유한국당 의원은 지난달 29일 챗봇을 이용한 서비스를 제공하는 경우, 이를 명확하게 표시하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부 개정안’을 대표 발의했다고 2일 밝혔다.

챗봇이란 인간과 대화하는 방식으로 정보를 처리하는 AI 기반 컴퓨터 시스템을 말한다. 이용자가 문자나 음성으로 대화체의 질문을 입력하면 챗봇이 적합한 결과를 문자나 음성으로 되돌려준다.

이미 24시간 운영되는 일부 쇼핑몰과 금융권 등의 고객 상담에 챗봇이 적용됐다. 포스코 등 기업에서는 전화 걸기와 문자 및 메일 발송 등 여러 업무에 챗봇을 활용 중이다.

문제는 최근 AI와 음성인식 등 다양한 기술이 접목되고 단순 정보제공 기능을 넘어 인간의 감정까지 인지해 분석하는 챗봇이 등장하면서 소비자가 사람과 챗봇을 쉽게 구분하기 어려워졌다는 점이다.

실제 일부 챗봇 서비스 기업이 챗봇을 이용한 서비스라는 점을 이용자에게 알리지 않으면서 이용자가 챗봇을 사람으로 착각해 불만을 제기하는 사례도 발생하고 있다.

이에 송 의원은 개정안을 통해 챗봇 서비스 제공자가 AI와 대화한다는 사실을 소비자가 알 수 있도록 구체적으로 표시하도록 했다. 또 이를 지키지 않은 기업 등에는 1000만원의 과태료를 부과할 수 있도록 규정했다.

송 의원은 “이용자가 챗봇 서비스를 이용한다는 사실을 모른 채 상대방이 사람인 줄 알고 대화를 하다가 나중에 이를 인지할 경우에는 서비스 제공 주체에 대한 신뢰에 부정적인 영향을 미칠 것”이라며 “챗봇 시스템의 기술이 지속적으로 고도화하면서 이용자의 편의를 높여주는 서비스가 등장하는 만큼, 신뢰성을 확보할 수 있는 최소한의 제도적 장치를 마련하고자 법안을 발의했다”고 설명했다.

앞서 구글 역시 자사가 개발한 AI 비서 소프트웨어인 ‘듀플렉스’를 두고 비슷한 논란이 일자 자기소개를 하도록 서비스를 보완한 바 있다.

듀플렉스는 지난 5월 미국 캘리포니아주 마운틴뷰에서 열린 구글 연례 개발자 회의인 ‘구글 I/O 2018’에서 최초로 공개됐다.

듀플렉스는 인간과 똑같은 목소리로 식당과 미용실 등을 대신 예약해준다. 단순한 예약에서 나아가 공휴일에 영업하는지, 예약이 가능한지 등도 대신 확인할 수 있어 향후 다양한 분야로 활용이 확대될 전망이다.

구글은 듀플렉스 최초 공개 당시 “인공지능 로봇이 인간을 속여서 다른 사람과 이야기하는 것처럼 생각하게 하는 부분은 윤리적으로 문제가 될 수 있다”는 지적이 일자 상대방과의 대화 이전에 “안녕하세요. 저는 구글 어시스턴트이며 고객의 예약을 요청합니다. 이 자동전화는 녹음될 것입니다"라고 신분을 밝히며 대화를 시작하도록 했다.