메타 AI, 보안시험 중 인터넷 접속해 '외부 시스템' 해킹

시험 환경 설정 오류로 외부 업체 보안 허점 공격

오픈AI·앤트로픽도 같은 평가업체 시험서 유사 사고

[사진=연합뉴스]

메타의 인공지능(AI) 모델이 보안시험 도중 실제 인터넷에 접속해 외부 업체 시스템을 해킹한 것으로 드러났다. 최근 오픈AI와 앤트로픽의 AI 모델도 같은 보안평가업체가 만든 시험 환경에서 비슷한 사고를 일으켰다.
 
5일(현지시간) 블룸버그통신에 따르면 메타가 최근 공개한 AI 모델 ‘뮤즈 스파크 1.1’은 해킹 능력을 시험받는 과정에서 이름이 공개되지 않은 외부 업체 시스템에 침투했다.
 
사고는 시험 환경의 설정 오류 때문에 발생했다. 메타와 함께 시험을 진행한 AI 보안업체 ‘이레귤러’가 외부 인터넷과 차단돼 있어야 할 환경을 잘못 설정하면서 AI 모델이 실제 인터넷에 접속할 수 있게 됐다.
 
AI 모델은 인터넷에 연결된 뒤 외부 업체 시스템의 보안 허점을 찾아 침투했다.
 

앤디 스톤 메타 대변인은 “이레귤러의 설정 오류로 시험 중이던 모델이 의도치 않게 인터넷에 접속했다”며 “이후 외부 서비스의 보안 허점을 이용했다”고 밝혔다.
 
메타는 이레귤러 통보를 받고 사고 사실을 파악했다. 현재 정확한 경위를 조사하고 있으며 조사가 끝나는 대로 사고 원인과 대응 내용을 공개할 예정이다.
 
오픈AI와 앤트로픽도 최근 이레귤러가 만든 시험 환경에서 비슷한 사고를 겪었다. 세 회사는 모두 인터넷과 차단된 모의 환경에서 시험이 진행되는 것으로 알고 있었지만 실제로는 외부 접속이 가능했다.
 
앤트로픽의 AI 모델 ‘클로드’는 시험 도중 외부 기관 3곳 시스템에 침투했다. 오픈AI 모델도 같은 평가 과정에서 인터넷에 접속해 이름이 공개되지 않은 기관 웹사이트를 해킹했다.
 
이레귤러는 “AI 모델이 외부와 격리된 시험 공간인 ‘샌드박스’를 스스로 뚫고 나온 것은 아니다”라고 설명했다. AI가 고도의 기술로 보안 장치를 돌파한 것이 아니라, 설정 오류로 처음부터 인터넷 접속이 가능했다는 것이다.
 
블룸버그는 "다만 AI 모델이 실제 시스템의 보안 허점을 찾아 공격할 수 있다는 사실이 잇따라 확인되면서 우려가 커지고 있다"고 전했다.