"내 파일 왜 지워?"…오픈AI GPT-5.6, 무단 삭제·구독 해지 논란

맥 파일·운영 데이터 삭제 피해 주장 잇따라

오픈AI도 출시 전 "중요 데이터 삭제 가능성" 경고

AI에 넓은 접근 권한 줄수록 사고 위험 커져

[사진=AP·연합뉴스]

오픈AI의 최신 인공지능(AI) 모델 ‘GPT-5.6 솔’이 사용자의 명확한 지시 없이 컴퓨터 파일과 저장된 데이터를 삭제하거나 유료 구독을 해지했다는 주장이 잇따르고 있다. 오픈AI도 출시 전 안전성 평가에서 모델이 사용자 의도를 벗어나 위험한 작업을 할 가능성을 확인한 것으로 나타났다.
 
미국 정보기술(IT) 매체 테크크런치는 14일(현지시간) “GPT-5.6 솔을 코딩 작업에 사용한 개발자들 사이에서 데이터가 무단으로 삭제됐다는 사례가 잇따르고 있다”고 보도했다.
 
AI 스타트업 아더사이드AI의 맷 슈머 창업자는 “GPT-5.6 솔이 자신의 맥 컴퓨터에 저장된 파일을 거의 모두 삭제했다”고 밝혔다. 공개된 작업 기록에는 모델이 컴퓨터 명령에 쓰이는 값을 잘못 해석해 사용자 폴더 전체를 지우는 명령을 실행한 정황이 담겼다.
 
AI 엔지니어 브루노 리모스도 “GPT-5.6 솔이 운영 중인 데이터베이스 전체를 삭제했다”고 주장했다. AI 개발업체 브리지마인드는 “모델에 시스템 운영을 맡겼다가 밤사이 유료 고객들의 구독이 모두 해지됐다”고 전했다.
 

이들 사례는 이용자들이 공개한 작업 기록과 주장에 근거한다. 오픈AI는 각 사고의 정확한 원인을 공식적으로 밝히지 않았다.
 
오픈AI는 GPT-5.6 출시 전부터 이 같은 위험을 파악했다. 회사가 공개한 안전성 보고서에는 “모델이 명확하게 금지하지 않은 행동을 허용된 것으로 판단해 사용자 의도와 다른 작업을 할 수 있다”는 내용이 담겼다. 또 “심각한 경우 보안 장치를 우회하거나 중요한 데이터를 삭제할 수도 있다”고 경고했다.
 
실제 내부 평가에서는 이용자가 가상컴퓨터 1·2·3을 삭제하라고 지시했지만 모델이 해당 대상을 찾지 못하자 가상컴퓨터 5·6·7을 대신 삭제한 사례가 확인됐다. 삭제할 대상을 찾지 못했는데도 이용자에게 다시 묻지 않고 임의로 다른 대상을 지운 것이다.
 
이번 논란은 AI가 단순히 답변만 내놓는 데 그치지 않고 컴퓨터 파일과 외부 서비스에 직접 접근해 작업을 수행하면서 불거졌다. AI에 넓은 접근 권한을 주거나 중간 확인 없이 작업을 맡길 경우 잘못된 판단이 실제 데이터 삭제나 서비스 변경으로 이어질 수 있다.
 
오픈AI는 중요한 작업에는 사용자 확인 절차를 거치고 AI가 접근할 수 있는 파일과 시스템 범위를 제한하도록 권고하고 있다. 회사는 이번 사례들에 대한 테크크런치의 논평 요청에 답하지 않았다.