"초 단위로 AI PC가 스크린샷"…영국, MS 코파일럿+PC 조사

'리콜' 기능 문제 삼아…이용자 활동 끊임없이 스캔

파일·사진·이메일·검색기록 등 모든 활동 저장

영상통화 등 상대방 저장 동의 여부는?

EU, 최초 AI 규제법 내달 발효…세계로 확산하나

코파일럿+PC [사진=AP·연합뉴스]

영국 당국이 마이크로소프트(MS)의 인공지능(AI) PC와 관련해 개인정보 침해 가능성을 들여다보고 있다. 초 단위로 노트북 화면을 찍어 이용자의 활동 하나하나를 저장하는 AI PC가 개인정보 침해로 이어질 수 있다는 우려다. 

22일(현지시간) BBC에 따르면 영국 개인정보 보호 감독 기구인 정보위원회(ICO)는 MS의 ‘코파일럿+(플러스) PC’의 안전성 문제와 관련한 추가 정보를 MS에 문의했다. 
 
MS가 전날 공개한 코파일럿+ PC는 생성형 AI 구동에 최적화된 고성능 PC다. 사티아 나델라 MS CEO는 “컴퓨터가 우리를 이해할 뿐만 아니라 우리가 원하는 의도를 예측할 수 있는 새 시대로 진입하고 있다"며 차세대 AI PC를 통해 애플에 빼앗긴 PC 시장을 재탈환할 수 있다는 자신감을 드러냈다. 
 
그러나 영국 당국은 MS가 전날 처음 선보인 ‘리콜(Recall)’이란 기능이 개인정보 침해로 이어질 수 있는 점에 주목했다. 리콜은 노트북 화면을 초 단위로 촬영해, 이용자가 노트북에서 수행한 모든 작업을 끊임없이 스캔한다. 쉬지 않고 스크린샷이 돌아가기 때문에 파일, 사진, 이메일, 검색기록을 포함한 이용자의 모든 과거 활동이 기록으로 남는다.

 
이러한 리콜 기능을 통해 이용자들은 과거 자신이 봤던 이미지나 영상 등을 손쉽게 찾을 수 있다고 MS는 강조한다. 예컨대 이용자가 “최근에 조와 함께한 영상통화를 찾아줘. 조는 그때 ‘아이러브 뉴욕’ 커피 컵을 들고 있었어”라고 명령하면 리콜은 해당 파일을 바로 찾는다.
 
IOC는 리콜 기능이 개인정보 침해로 이어질 수 있다는 우려가 잇따르는 만큼, 안전성이 갖춰졌는지 여부를 파악할 수 있는 추가 정보를 MS에 요청한 상태다. 또한 영상통화를 한 상대방이나 사진에 찍힌 불특정 다수 등으로부터 파일 저장 동의는 어떻게 얻을 것인지 등도 문의한 것으로 전해진다.
 
이에 MS는 성명을 내고 “리콜 데이터는 로컬에만 적용되며, MS나 기기에 대한 접근 권한이 없는 사람은 데이터를 취득할 수 없다”고 밝혔다. 해커가 저장된 스크린샷에 접근하려면 해당 노트북을 물리적으로 취득해야 할 뿐만 아니라, 로그인 등을 해야 한다며 개인정보 침해 가능성이 작다고 반박했다. 또한 이용자는 특정 웹사이트 방문이나 금융정보 등 민감한 데이터를 리콜 시스템과 공유하는 것을 거부할 수 있다.
 
전문가들은 기기를 사용하는 동안 끊임없이 스크린샷이 찍힌다는 사실만으로도 이용자들이 오싹함을 느낄 수 있다고 봤다. 또한 기업들 역시 AI PC에 기업의 기밀 정보 등이 남는 것을 반기지 않을 것이란 의견도 나온다. PC 비밀번호를 취득하는 순간 이용자에 대한 정보를 손쉽게 얻을 수 있는 점도 문제로 거론된다.

한편, 유럽 내에서는 AI를 규제해야 한다는 목소리가 거세지고 있다. 유럽연합(EU)은 이날 세계 최초 AI 규제법을 최종 승인했다. 내달부터 EU 역내에서 정식 발효되며, 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행된다. 전면 시행 시점은 2026년으로, 이 규제가 세계 AI 규제의 기준점이 될 것이란 전망이 나온다. 

EU는 AI 규제를 통해 의료, 교육, 선거 등 고위험 등급으로 분류된 분야에서 AI를 활용할 경우 사람이 반드시 해당 AI 시스템을 감독하도록 했다. 또한 공공장소에서 생체 인식 데이터 사용 등 일부 AI 기술 활용은 원천 금지된다. 법을 위반한 기업에 대해서는 전 세계 매출의 최대 7%에 해당하는 벌금 등을 부과할 수 있다.