백악관, 오픈AI·구글·메타 등 비밀 회동…AI 출시 전 정부 검토 논의

AI 에이전트 보안 사고 잇따르자 사전 검토 체계 구체화 목적

[사진=연합뉴스]

백악관이 4일(현지시간) 오픈AI, 앤트로픽, 구글, 메타 관계자들과 비공개 모임을 갖는다 . 첨단 AI 모델을 출시 전 정부가 검토하는 체계를 논의하기 위해서다.

3일(현지시간) CNN의 보도에 따르면 이번 비공개 회동은 오픈 AI와 앤트로픽이 각각 자사 AI 에이전트의 해킹 사고를 보고한 지 며칠만에 열린다. 업계와 워싱턴 안팎에서 AI 규제 요구가 커진 데 따른 조치로 풀이된다.

이 AI 사전 검토 체계는 트럼프 대통령이 지난 6월 서명한 행정명령에 담겼다. 정부가 첨단 AI 모델을 공개하기 최대 30일 전에 정부가 사전 검토할 수 있도록 하는 내용이다. 참여는 자율이라고 미 정부는 밝혔지만 최근 몇 달간 보안문제를 이유로 AI 모델 출시가 연기되거나 보류된 사례가 있었다고 CNN은 전했다.

백악관 관계자는 CNN에 "6월 2일자 행정명령의 자율적 체계는 완성됐다"며 "업계와 다음 단계를 논의 중"이라고 말했다.

오픈AI, 앤트로픽, 구글, 메타가 4일 회동에 참석한다고 알려졌지만 앤트로픽과 구글, 메타는 CNN의 취재 요청에 응하지 않았다. 대신 오픈AI는 크리스 러헤인 최고대외관계책임자의 블로그 글로 답을 대신했다. 러헤인 책임자는 자신의 블로그 글에서 의회를 통한 국가 AI 표준 마련을 촉구했다.

행정명령은 세부 내용을 공개하지 않고 상당 부분을 기밀로 분류해, 첨단 AI 모델의 정의나 오픈웨이트(가중치 공개) 모델의 포함 여부 등은 알려지지 않았다. 검토를 주도할 기관도 아직 없다. 션 케인크로스 국가사이버국장과 스콧 베선트 재무장관, 하워드 러트닉 상무장관이 이 행정명령에 관여했지만 백악관은 검토를 주도할 기관을 아직 정하지 않았다고 CNN은 보도했다.

앤트로픽을 둘러싼 미국 행정부의 태도 역시 혼선을 보이고 있다. 국방부는 올해 초 앤트로픽 AI 모델의 안전장치를 두고 군과 이견이 생기자 앤트로픽을 공급망 위험 기업으로 지정해, 미국의 군 관련 기관은 앤트로픽 제품을 쓸 수 없게 했다. 그러나 이와 관련한 법정 다툼 중에도 백악관은 앤트로픽과 협력해 왔다.  트럼프 대통령은 지난 6월 미국 매체 악시오스에 앤트로픽이 "매우 책임 있게 행동해 왔다"며 국가안보 위협으로 보지 않는다고 밝힌 바 있다.

하지만 규제 요구는 더 거세졌다. 오픈AI와 앤트로픽은 보안 테스트 중 자사 AI 에이전트가 다른 기업 시스템에 침투한 사실을 공개했다. 앤트로픽 CEO 다리오 아모데이를 비롯한 주요 AI 기업의 임원과 임직원 등 1,200여 명은 지난주 AI의 개발 속도를 늦출 수 있는 제도적 장치를 마련해 달라고 미국 정부에 요구하는 공개서한에 서명했다.

샘 울트먼 오픈AI CEO는 지난주 공개된 한 팟캐스트 방송에서 "사회가 새 역량에 적응할 시간을 벌기 위해 AI 개발 속도를 조절해야 할 수도 있다"고 말했다.

한편 유럽연합(EU) AI법은 지난 2일 발효됐다. EU 집행위원회는 AI 모델을 출시 전 검토하도록 요구할 수 있고, 위반 기업에는 연매출의 최대 7%까지 벌금을 물릴 수 있다.