개인정보위, AI 챗봇 ‘이루다’ 개발사 스캐터랩에 과징금 1억330만원

개인정보 무분별한 이용 제재 첫 사례

카톡 대화 94억여건 정보보호 미흡

각종 혐오발언과 개인정보 유출 의혹으로 논란이 된 인공지능(AI) 챗봇 ‘이루다’가 개인정보보호법을 위반했다는 정부의 조사결과가 나왔다. 이루다 개발사인 스캐터랩은 카카오톡 대화 내용을 분석해 감정, 심리를 분석해주는 앱으로 이용자들의 대화를 수집하고, 이를 이루다 개발에 활용했는데 정부는 업체가 이용자의 동의를 받지 않았다고 판단했다.

개인정보보호위원회는 28일 전체회의를 열어 이루다를 개발한 스캐터랩에 총 1억330만원의 과징금과 과태료를 부과하기로 했다.

이는 정부가 기업의 무분별한 개인정보 처리를 제재한 첫 번째 사례다.

개인정보위는 스캐터랩이 카카오톡 대화를 분석해 감정·심리 상태를 알려주는 앱인 ‘텍스트앳’과 ‘연애의 과학’으로 수집한 카카오톡 대화 94억여건을 이루다 개발에 이용했는데, 이름과 휴대폰 번호, 주소 등의 개인정보를 삭제하거나 암호화하지 않았다고 설명했다.

스캐터랩은 텍스트앱과 연애의 과학 개인정보처리방침에 ‘신규 시비스 개발’을 포함시켜 이용자가 이에 동의한 것으로 간주했으나, 개인정보위는 이를 기재한 것만으로 이용자의 동의를 얻었다고 보기 어렵다고 판단했다. 이용자가 예측할 수 있는 손해를 입을 우려가 있다는 이유에서다.

또한 개인정보위는 스캐터랩이 개발자 코드 공유, 협업 사이트인 깃허브에 카카오톡 대화문장 1400여건을 AI 모델과 함께 게시한 것에 대해서도 개인정보보호법 위반이라고 설명했다.

개인정보위는 스캐터랩이 이루다와 관련한 사항을 포함해 총 8가지의 위반 행위를 했다고 보고 총 1억330만원의 과징금과 과태료를 부과하고 시정명령을 내렸다.

윤종인 개인정보위원장은 “이루다 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다”며 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 말했다.

 

28일 열린 개인정보보호위원회 전체회의 모습[사진=개인정보보호위원회 제공]