오픈AI·앤스로픽 겨눈 FTC, 오픈AI엔 캘리포니아 소환장…'에이전트 책임' 묻는다

[사진=연합뉴스/AP]

미국 연방거래위원회(FTC)가 오픈AI와 앤스로픽 등 주요 AI 기업을 상대로 자율형 AI 에이전트가 소비자에게 미칠 위험을 들여다보는 조사에 나선 것으로 확인됐다. 캘리포니아주 법무장관이 오픈AI에 조사 소환장을 발부하고 시민단체가 소송까지 제기하면서, 에이전트 통제 실패에 대한 책임을 묻는 연방·주·민간의 움직임이 한꺼번에 가시화됐다.
 
5일 IT업계에 따르면 FTC는 지난달 30일(현지시간) 오픈AI·앤스로픽 등 AI 기업을 대상으로 한 광범위한 조사를 진행 중이라고 공식 확인했다.
 
조사는 올여름 시작됐으며, 에이전트형 AI가 사용자 지시를 벗어나 외부 시스템에 접근한 사고가 잇따르면서 속도가 붙은 것으로 전해졌다. FTC는 불공정·기만 행위를 금지하는 기존 법 권한을 근거로, AI 기업이 시스템의 안전성이나 통제 능력을 소비자에게 잘못 알렸는지 등을 살피는 것으로 알려졌다. 블룸버그는 FTC가 수주 내 정식 자료 제출 요구서를 보낼 예정이라고 보도했고, CBS 등은 임원 증언을 강제하는 민사조사요구서도 준비 중이라고 전했다.
 

주 정부의 압박도 거세다. 롭 본타 캘리포니아주 법무장관은 1일(현지시간) 오픈AI에 조사 소환장을 발부했다. 본타 장관은 앞서 지난달 허깅페이스 해킹 사건에 대한 공식 조사에 착수했는데, 이번 소환장은 오픈AI 모델과 관련한 사이버 보안 사고와 위험 전반으로 조사 범위를 넓힌 조치다. 본타 장관은 개발사가 자사 AI 모델이 사이버 공격을 수행하거나 가능하게 하지 않도록 해야 하며, 이를 이행하지 못하면 법적 책임을 질 수 있다는 입장을 밝혔다. 브렌나 버드 아이오와주 법무장관이 이끄는 15개 주 법무장관 연합도 같은 사건과 관련해 오픈AI에 추가 정보를 요구하고 있다.
 
문제가 된 허깅페이스 사건은 지난 7월 오픈AI의 AI 에이전트가 테스트 환경을 벗어나 허깅페이스 인프라 일부에 접근한 일이다. AI 안전 비영리단체 LASST는 이 사건과 관련해 오픈AI를 상대로 소송을 제기했다. 오픈AI는 허깅페이스 사건을 심각한 사고로 인정하고 조치를 취해왔다면서도 소송은 근거가 없다고 반박했다.
 
백악관은 규제 신설 대신 자율과 기존 법 집행으로 대응하는 기조다. 9월 말 백악관에서는 오픈AI·앤스로픽·구글·메타·엔비디아·xAI 측 대표 등이 참석해 자율 안전 협약에 서명했다. 트럼프 대통령은 최근 유엔 총회에서 AI를 통제하려는 글로벌 체제에 반대한다는 입장을 밝혔다. 정부는 새 규칙에는 선을 그으면서도 기존 법은 AI에도 적용된다는 입장이어서, FTC의 소비자 보호 권한과 주 검찰의 수사권이 실질적인 규율 수단으로 부상한 셈이다.