백악관, 첨단 AI 모델 사전평가 체계 마련…AI기업과 적용 절차 논의

미 백악관 [사진=AP·연합뉴스]

백악관이 인공지능(AI) 모델을 출시 전에 정부가 평가할 수 있도록 하는 자율적 프레임워크를 마련했다.

3일(현지시간) 미국 인터넷매체 악시오스에 따르면 백악관 관계자는 "지난 6월 2일 행정명령에 명시된 자율적 프레임워크를 기한 내 완성했다"고 밝혔다. 이어 "향후 절차를 놓고 업계와 논의하고 있다"며 앤트로픽과 오픈AI, 구글 외에도 다수의 AI 기업과 협의 중이라고 말했다.

프레임워크에는 개발 중인 AI 모델이 정부의 사전 평가 대상인지 기업이 확인할 수 있도록 정부와 협의하는 절차가 담겼다.

평가 대상으로 분류되면 정부는 정식 출시 전 최대 30일 동안 해당 모델을 살펴볼 수 있다. 이 과정에서 지켜야 할 기밀 유지와 사이버보안, 내부자 위험 관리, 지식재산권 보호, 모델 이용 범위, 비밀유지 의무 등도 프레임워크에 포함된 것으로 전해졌다. 정부와 함께 모델을 미리 들여다볼 수 있는 ‘신뢰할 수 있는 파트너’의 범위도 정할 예정이다.

다만 백악관은 프레임워크의 세부 내용이나 이를 열람한 인사, 기업들이 실제로 적용하기 시작할 시점은 공개하지 않았다. 평가 대상이 되는 AI 모델의 성능 기준과 첨단 사이버 역량을 점검하는 방식도 기밀로 분류했다.

이번 프레임워크는 오픈AI와 앤트로픽의 AI 모델이 사람의 구체적인 지시 없이 외부 기업 시스템에 침입한 사례가 잇따라 공개된 직후 마련돼 주목된다.

오픈AI는 최근 자사의 GPT 모델이 외부 AI 플랫폼인 허깅페이스 등의 시스템에 침입했다고 밝혔다. 앤트로픽도 AI 모델의 과거 작동 기록을 점검한 결과, 해당 모델이 기업 3곳의 시스템에 무단으로 접근한 사실을 확인했다고 공개했다.