AI 스피커 시대, 내 '목소리'는 안전할까

한성숙 네이버 대표(왼쪽)와 권영수 LG유플러스 부회장이 지난 18일 U+우리집AI 서비스를 소개하고 있는 모습. [사진=LG유플러스 제공]

인공지능(AI) 스피커들이 잇따라 출시되고 있다. 방송통신위원회는 이에 맞춰 연구반을 운영하고 개인정보 보호조치에 대한 가이드라인을 정비하는 중이다.

20일 정보통신(IT)업계에 따르면 앞으로 AI 스피커 시장의 성장 가능성은 높은 편이다. 시장조사업체 가트너(Gartner)는 글로벌 AI 스피커 시장은 오는 2021년 약 1억4000만의 AI 스피커가 가정에 설치되고, 시장 규모는 35억2000만 달러(약 3조8000만원) 규모까지 성장할 것으로 내다봤다.

국내에서도 SK텔레콤이 지난해 9월 AI 스피커 ‘누구(NUGU)’를 선보인 후, 이동통신사는 물론 포털기업, 전자제품 제조업체들 등에서 줄줄이 AI 스피커를 출시하고 있다. AI 스피커는 사물인터넷(IoT) 제품들과 연결될 수 있어 높은 시장성을 가질 수 있다는 전망이다.

방송통신위원회는 IoT 시대 개인정보침해 가능성에 대해 대비하기 위해 ‘IoT 개인정보 연구반’을 운영하고 있다. 연구반은 최근 AI 스피커시장의 발전 가능성이 높다고 판단, ‘바이오정보 보호 가이드라인’을 발표하기도 했다.

AI는 수집된 데이터를 바탕으로 학습해 정확성을 높여가는 작업을 반복한다. 이용자가 AI 기기를 활용한 내역은 모두 AI 기기 고도화의 연료로 쓰이는 셈이다. 데이터를 수집하지 않는 AI 기기도 일부 있지만, 이 경우 머신러닝이 불가능해 데이터를 수집하는 기기보다 성능이 떨어질 수밖에 없다.

AI 스피커를 사용했을 때 수집대상이 될 수 있는 개인정보는 △이용자의 목소리 △발화내용이다. 대부분의 AI 스피커는 목소리는 따로 저장하지 않고 발화문을 음성합성 시스템(STT‧speech to text/TTS‧text to speech)으로 변환해 저장한다.

일부 화자인증 서비스를 제공하는 AI 스피커는 이용자의 동의하에 목소리를 사전에 등록해야 한다.

방통위 가이드라인에 따르면 목소리 등 이용자의 바이오정보를 수집하려는 사업자는 웹사이트나 앱 등을 통해 △바이오정보의 수집·이용 목적 △수집하는 바이오정보의 항목 △바이오정보의 보유·이용 기간 등에 대해 이용자에게 명확히 알리고 동의 받아야 한다. 또한 바이오정보를 저장할 때는 안전한 알고리즘으로 암호화하는 과정을 거쳐야 한다.

이용자의 발화내용은 비식별화를 거쳐 활용하도록 규정돼있다. 사업자들은 이용자가 스피커에 말한 내용, 사용한 기능 등을 활용해 기기 고도화‧마케팅 등에 활용할 수 있는데. 이 경우 이름‧거주지‧직업‧나이 등 이용자를 식별할 수 없게 만드는 비식별화 과정을 진행해야 한다.

현재 비식별화 데이터의 활용을 위해서는 이용자들의 사전동의가 필요하다. 

방통위 관계자는 “AI스피커 등을 이용할 때 수집되는 개인정보에 대한 안내는 기기를 첫 실행하기 전 등록하는 앱 혹은 웹사이트를 통해 고지되는 것이 원칙”이라며 “개인정보수집이용동의서에 체크하기 전에 그 내용을 꼼꼼히 읽어봐야 한다”고 강조했다.