오픈AI, 미 국방부 계약 문구 수정…"미국인 국내 감시 금지" 명시

NSA 등 정보기관은 별도 계약 필요…사용 범위 추가 제한

'모든 합법적 목적' 표현 논란 뒤 보완…오픈AI "원칙 더 명확히"

샘 올트먼 오픈AI 최고경영자(CEO) [사진=연합뉴스]

오픈AI가 미국 국방부와의 인공지능(AI) 계약 문구를 다시 손질한다. 미국인 대상 국내 감시에 자사 AI를 쓸 수 없다는 제한을 계약에 명시하기로 했다. 국방부가 AI 시스템을 ‘모든 합법적 목적’에 사용할 수 있도록 한 계약 표현을 둘러싸고 논란이 커지자 보완에 나선 것이다.
 
2일(현지시간) 오픈AI는 계약 업데이트를 통해 “원칙을 더 명확히 하기 위해 국방부와 추가 문구를 넣었다”고 밝혔다.
 
새 문구에는 수정헌법 4조와 1947년 국가안전보장법, 1978년 외국정보감시법(FISA) 등을 근거로 AI 시스템을 미국인과 미국 국적자에 대한 국내 감시에 사용해서는 안 된다는 내용이 담겼다. 상업적으로 취득한 개인정보나 식별 가능 정보를 활용한 추적·감시·모니터링도 금지 대상이라고 설명했다.
 
오픈AI는 또 미 국가안보국(NSA) 등 국방부 산하 정보기관은 이번 계약만으로 자사 서비스를 사용할 수 없다고 밝혔다. 이들 기관에 서비스를 제공하려면 별도의 새 계약이 필요하다는 점도 함께 명시했다.
 

이번 수정은 오픈AI가 지난달 28일 미 국방부의 기밀 네트워크에 자사 모델을 배치하는 계약을 발표한 뒤 커진 반발에 대응한 조치로 해석된다.
 
당시 오픈AI는 자사 기술을 국내 감시, 자율무기 지시, 고위험 자동 의사결정에 쓰지 못하도록 하는 세 가지 기준을 계약에 반영했다고 설명했다. 다만 계약 원문에는 국방부가 AI 시스템을 ‘모든 합법적 목적’에 사용할 수 있다는 표현도 들어가 있어 감시와 무기 활용 범위를 둘러싼 논란이 이어졌다.
 
쟁점은 앤트로픽과 미 국방부의 갈등과도 맞물린다. 로이터에 따르면 앤트로픽은 자사 AI가 미국 내 감시나 자율무기 표적 지정에 쓰이지 않도록 하는 안전장치를 유지해야 한다는 입장을 고수했고, 국방부는 미국 법만 지키면 된다는 태도를 보여 양측이 충돌했다. 이후 미 정부는 앤트로픽과의 관계를 압박했고, 오픈AI는 비슷한 시점에 별도 계약을 발표했다.
 
오픈AI도 발표 방식에 문제가 있었다는 점은 인정했다. 샘 올트먼 최고경영자(CEO)는 이번 업데이트와 함께 계약 발표가 지나치게 서둘러 이뤄졌다고 밝혔다. 그는 공개 글에서 이전 공지가 “기회주의적이고 허술해 보였다”고 했고, 논란이 큰 사안인 만큼 원칙을 더 분명히 할 필요가 있었다고 설명했다.
 
다만 논란이 완전히 정리된 것은 아니다. 액시오스는 오픈AI 계약이 미국인의 공개 정보 대량 수집까지 명시적으로 금지하는 수준에는 이르지 못했다고 지적했다. 이번 수정은 미국인 대상 국내 감시 제한 원칙을 다시 확인한 조치로 볼 수 있지만, 군과 AI 기업 사이 경계선을 어디까지 계약 문구로 못 박을지를 둘러싼 논쟁은 계속될 가능성이 크다.