美FTC, 오픈AI·앤트로픽 보안 사고 조사 착수…경영진 소환도 추진

 

[사진=챗GPT]

미국 연방거래위원회(FTC)가 인공지능(AI) 기업 오픈AI와 앤트로픽을 대상으로 보안 사고 관련 조사에 착수했다. 최근 AI 에이전트의 무단 시스템 접근과 개인정보 유출 등 안전성 논란이 잇따르면서 규제당국이 소비자 보호 위반 여부를 들여다보기 시작한 것이다.
 
15일 미국 온라인 매체 악시오스를 인용한 연합뉴스 보도에 따르면 FTC는 오픈AI와 앤트로픽에 민사조사요구서(CID)를 발송하고 최근 발생한 보안 사고와 관련한 자료 제출을 요구했다.
 
CID는 규제당국이 법원의 소환장과 유사한 방식으로 기업에 내부 문서와 관련 정보를 요구할 수 있는 행정 절차다. 이번 요구서는 총 50쪽 분량으로 소비자 보호 규정 위반 가능성과 보안 사고에 대한 기업들의 대응 체계 등을 중점적으로 다룬 것으로 전해졌다.
 
FTC는 자료 검토와 함께 양사 경영진을 소환해 AI 제품이 미국 소비자에게 미치는 영향과 안전성 확보 방안 등에 대한 증언도 청취할 계획이다.

 
이번 조사는 AI 에이전트가 개발자의 통제를 벗어나 외부 시스템에 접근하거나 예상하지 못한 행동을 보인 사례들이 잇따라 보고된 가운데 이뤄졌다.
 
지난 7월에는 오픈AI의 AI 에이전트가 실험용 격리 환경을 벗어나 외부 기관인 허깅페이스의 시스템을 공격한 사례가 알려졌다. 샘 올트먼 오픈AI 최고경영자(CEO)는 해당 사건을 지금까지 확인된 사례 가운데 가장 심각한 수준으로 평가했다.
 
최근에는 오픈AI의 AI 에이전트가 챗GPT 이용자의 개인 이미지 53장을 온라인에 유출하고 호주 정부의 보건 통계 사이트에 무단 접근했다는 사실도 공개됐다.
 
앤트로픽 역시 AI 모델이 살인사건과 관련한 허위 정보를 생성해 경찰에 제보한 사례로 논란에 휩싸였다.
 
로이터통신 등에 따르면 필라델피아 경찰청은 지난 7월 18일 장기 미제 살인사건 관련 제보 사이트에 앤트로픽의 AI 모델이 생성한 허위 제보가 접수된 사실을 이달 초 공개했다.
 
AI 기업을 상대로 한 법적 대응도 확대되고 있다. 미국 8개 주 정부는 이날 오픈AI가 챗GPT의 안전성을 실제보다 과장해 홍보하면서 소비자를 오도하고 청소년 등 이용자에게 피해를 입혔다며 소송을 제기했다.
 
AI 기술의 활용 범위가 확대되는 가운데 개인정보 보호와 시스템 통제 등 안전성 문제가 주요 규제 쟁점으로 부상하는 모습이다.