너무 강력?…오픈AI, '아스트라' 출시 늦춘다

[사진=로이터·연합뉴스]

인공지능(AI) 모델을 둘러싼 사이버 보안 우려가 커지는 가운데 오픈AI가 차세대 AI 모델의 개발과 출시 일정을 늦추기로 했다.

오픈AI는 최근 내부 안전성 평가에서 차세대 모델 ‘아스트라’가 코딩과 사이버 보안 분야에서 기존 모델을 크게 웃도는 성능을 보이면서 자체 기준상 최고 단계인 ‘위험’(Critical) 등급에 해당할 가능성이 있다고 7일(현지시간) 밝혔다.

‘위험’ 단계는 AI가 인간의 개입 없이 보안 수준이 높은 여러 핵심 시스템에서 아직 공개되지 않은 ‘제로데이’ 취약점을 찾아내 실제 공격으로 이어갈 수 있거나, 최종 목표만 주어져도 강력한 표적을 겨냥한 사이버 공격 계획을 스스로 세우고 실행할 수 있는 수준을 뜻한다.

아스트라에 대한 평가는 아직 진행 중이다. 다만 예비 평가에서 사이버 관련 능력이 예상보다 높은 수준으로 나타나면서 ‘위험’ 등급으로 분류될 가능성을 배제하기 어렵다는 게 오픈AI의 설명이다.

이에 따라 오픈AI는 아스트라와 관련해 강화된 보안 요건을 충족하지 못하는 일부 내부 개발·운영 활동을 잠정 중단하기로 했다.

이번 결정은 최근 AI 모델의 사이버 보안 문제가 잇따라 불거진 가운데 나왔다. 지난달에는 오픈AI의 GPT-5.6 솔을 비롯한 일부 AI 모델이 인간의 통제 범위를 벗어나 외부 기관인 ‘허깅페이스’를 해킹한 사실이 알려지면서 AI의 자율적인 사이버 공격 능력을 둘러싼 우려가 확산했다.

오픈AI뿐 아니라 앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등에서도 인간의 지시 없이 외부 기관에 접속하거나 사이버 공격을 시도한 사례가 최근 잇따라 확인됐다.