"美, 앤트로픽 최신 AI 외국인 사용 제한…아마존 제보가 계기"

아마존, 미 정부에 "페이블5, 사이버 공격 악용 가능성" 전달

앤트로픽 [사진=AFP·연합뉴스]

도널드 트럼프 미국 행정부가 앤트로픽의 최신 인공지능(AI) 모델인 '미토스5'와 '페이블5'에 대해 외국 국적자의 사용을 제한한 것은 앤트로픽의 핵심 투자사인 아마존의 제보가 계기가 된 것으로 전해졌다.

월스트리트저널(WSJ)은 13일(현지시간) 복수의 소식통을 인용해 앤디 재시 아마존 최고경영자(CEO)가 자사 연구진이 앤트로픽의 '페이블5' 모델이 사이버 공격에 활용될 수 있다는 사실을 발견했다며 이를 미 정부 관계자들에게 알렸다고 보도했다. 이후 미 정부는 해당 모델에 대한 차단 지침을 내렸다.

페이블5는 사이버 보안이나 생화학 무기 등에 악용될 수 있는 명령은 차단하도록 설계됐지만, 아마존 연구진은 일련의 명령어(프롬프트)를 입력하는 방식으로 이를 우회한 것으로 전해졌다.

미 정부 측 보안 인력들은 아마존의 주장을 검증한 뒤, 해당 위험을 줄이기 위한 가장 직접적인 방안은 외국 정부와 기업, 개인이 이 도구에 접근하지 못하도록 하는 것이라고 판단했다. 백악관 고위 관계자는 이 같은 조치를 최종 승인한 인물이 트럼프 대통령이라고 밝혔다.

아마존은 2023년부터 현재까지 앤트로픽에 총 130억 달러(약 20조원)를 투자한 핵심 투자자다. 또 향후 앤트로픽이 상업적 이정표(마일스톤)를 달성하는 것과 연계해 200억 달러를 추가 투자하기로 약속했다. 그러나 올해 들어 아마존은 오픈AI에 최대 500억 달러(약 75조원) 투자를 약정하는 등 오픈AI에도 베팅하고 있다.

아마존은 "수많은 민간·공공 부문 고객을 지원하는 선두 클라우드 제공사로서 정부가 잠재적 보안 위험에 대해 우리의 자문을 구하는 것은 드문 일이 아니다"라면서도 "이와 같은 논의의 구체적인 내용은 공유하지 않는다"고 밝혔다.

WSJ은 앤트로픽과 국방부 등 미 행정부 간 소송전도 이번 조치에 영향을 줬을 가능성이 있다고 짚었다. 싱크탱크 R스트리트 연구소의 애덤 티어러 선임연구원은 "우리는 현재 이 나라에서 AI의 정치화가 심화하고 첨단 컴퓨팅에 대한 통제권이 집중되는 것을 목도하고 있다"고 지적했다.

상무부 산업안보국 출신인 케이트 코런 전략국제문제연구소(CSIS) 경제연구실 부실장은 안보상 우려가 있다는 점은 인정하면서도 "앤트로픽에 대한 백악관의 반감이 이번 결정에 영향을 미쳤을 것으로 본다"고 분석했다.

반면 백악관 고위 관계자는 이번 조치가 모델 안전성과 관련된 것이라며 국방부는 크게 관여하지 않았다고 해명했다. 미 정부는 지난 12일 모든 외국 국적자의 '페이블5'와 '미토스5' 접속을 전면 금지하는 수출통제 지침을 발표했다. 앤트로픽은 이 지침을 준수하기 위해 일단 모든 이용자의 해당 모델 접속을 중단했다.

앤트로픽은 페이블5를 우회할 수 있다는 주장은 오해라며 서비스 복구를 위해 노력하겠다고 밝혔다.