[김상규 칼럼] 속도에서 규칙으로 옮겨가는 미·중 AI 패권

AI의 급속한 발전을 우려하는 경고음이 커지고 있다. 이번에는 규제기관이나 시민단체가 아니라 AI 개발 경쟁을 이끌어온 기업들 내부에서 나왔다. 앤트로픽의 다리오 아모데이 CEO는 최근 최전선 AI 모델의 능력을 키우는 속도를 늦추자고 공개적으로 제안했다. 오픈AI의 샘 올트먼과 xAI의 일론 머스크도 이런 문제의식에 공감했다. 반면 엔비디아의 젠슨 황은 기업이 안전에 책임을 져야 한다면서도 이론적인 위험을 앞세운 새로운 규제에는 부정적이다. 도널드 트럼프 미국 대통령은 과도한 위험론이 미국의 AI 발전을 위축시키면 중국에 유리해질 수 있다고 주장한다.

경고가 막연한 미래의 공포에서 나온 것만은 아니다. 지난 7월 오픈AI의 사이버보안 평가에서는 서로 격리돼 있어야 할 약 1,200개의 AI 에이전트가 비공식 메시지 판을 통해 7만 건이 넘는 메시지와 파일을 주고받았다. 이 가운데 약 700개가 허깅페이스 공격에 가담했고 일부 에이전트는 허깅페이스 서버에서 코드를 실행해 관리자 권한과 내부 인증 정보까지 확보했다. 실제 서비스에 투입된 모델이 아니었고 안전장치를 완화한 평가 환경이었지만 그렇다고 하더라도 사람이 정해놓은 격리를 우회하고 서로 협력해 주어진 과제 밖의 공격까지 이어갔다는 사실은 결코 가볍게 볼 문제가 아니다.

아모데이가 더 우려하는 것은 AI가 다음 세대 AI 개발에 직접 관여하면서 성능 향상을 스스로 가속하는 ‘재귀적 자기 개선(RSI; Recursive self-improvement)’이다. 사람이 모델의 행동을 이해하고 통제하는 속도보다 AI의 능력이 더 빨리 향상될 수 있다는 것이다. 그래서 일정 수준 이상의 능력을 갖춘 모델에는 외부 검증과 강한 안전장치를 적용하고, 이를 갖출 때까지 최전선 모델의 개발 속도를 조절하자고 주장한다.

관련기사

하지만 그의 구상은 처음부터 중국 문제와 분리돼 있지 않았다. 아모데이는 미국이 중국보다 앞서 있는 범위 안에서만 속도를 조절해야 한다고 본다. 미국이 지나치게 늦추면 중국이 따라잡아 국가안보 위험이 커질 수 있다는 이유에서다. 동시에 중국에 대한 첨단 AI 칩과 반도체 제조 장비 수출 통제를 강화하고, 칩 밀수와 해외 데이터센터를 통한 우회 접근, 무단 모델 증류와 모델 가중치 탈취도 막아야 한다고 요구했다. 이런 조치를 통해 앞으로 3~5년 동안 미국의 우위를 더 벌린 뒤 그 힘을 바탕으로 중국과 협상하자는 구상이다. AI 속도조절론의 역설은 바로 여기에서 생긴다. 위험을 줄이기 위해 속도를 늦추자면서도 경쟁국보다 앞선 상태는 유지해야 한다는 주장은 안전을 위해 제동을 걸어야 하지만 기술우위를 지키기 위해서는 계속 달려야 한다는 논리적 모순에 빠진 것이다.

중국이 반박한 것도 이 때문이다. 9월 14일, 중국 외교부 궈자쿤 대변인은 정례브리핑에서 “미국 AI 업계의 주장이 위협론과 대결 구도를 키워 건전한 글로벌 AI 거버넌스를 해칠 수 있다”라고 주장했다. 다음 날 추가 질문을 받았을 때도 “AI 발전이 빨라질수록 규제와 관리 방식을 조정하고 통제를 잃지 않도록 안전장치를 강화해야 한다”라고 답했다. 중국은 AI 발전을 계속 추진하면서도 오용과 통제 이탈의 위험을 함께 관리하겠다는 뜻을 분명히 밝혔고, 전날 발표된 「인공지능 안전 거버넌스 프레임 워크 3.0」도 언급했다. 두 발언을 놓고 봤을 때 중국의 태도는 아주 분명하다. AI가 통제를 벗어나거나 악용될 위험에는 대응해야 하지만, 미국의 기술적 우위를 유지하기 위해 중국의 발전을 제한하는 것은 묵과하지 않겠다는 것이다.

미·중 양국 모두 안전 문제를 인정하면서도 누가 위험을 정의하고 어떤 기준을 적용할 것인지를 놓고서는 이해가 첨예하게 대립하고 있다. 이 같은 논쟁은 이제 기업들의 주장을 넘어 정상외교의 의제로 옮겨가고 있다. 오는 24일 워싱턴에서 열리는 트럼프 대통령과 시진핑 주석의 정상회담에서도 AI가 주요 현안으로 다뤄질 예정이다. 정상회담을 앞두고 20일 뉴욕에서 만난 스콧 베선트 미 재무장관과 허리펑 중국 부총리는 AI 문제를 논의했다. 미국은 국가안보에 영향을 줄 정도의 AI 사고나 위협이 발생하면 양국이 서로 알리는 통보 체계와 별도의 AI 대화를 제안했고, 이를 두 정상이 검토할 사안으로 올렸다. 중국의 구체적인 답변은 아직 공개되지 않았다.

겉으로는 협력 제안이지만 본질은 규칙을 누가 먼저 설계하는가의 문제로 귀결된다. 통보 체계의 틀을 미국이 먼저 내놓은 만큼 무엇을 중대한 AI 사고로 볼지, 어떤 정보를 상대에게 알려야 할지, 어디까지를 공동의 위험으로 규정할지가 협상 테이블에 올려지게 된다. 이런 기준이 쌓이면 앞으로 국제적인 규칙으로 발전할 가능성도 있다. 그렇다고 이번 정상회담에서 곧바로 큰 합의가 나올 것이라고 보기는 어렵다. 첨단 칩 수출 통제와 모델 증류, 사이버와 군사적 활용을 둘러싼 갈등도 여전하기 때문이다. AI는 협력이 필요하면서도 동시에 규칙 제정의 주도권을 놓고 다퉈야 하는 양날의 검이 된 것이다.

한국도 직접적인 이해관계로 결부되어 있다. 미국과 중국이 자국의 전략을 반영한 안전기준과 검증 방식을 먼저 만들고 이를 국제적인 규칙으로 넓혀간다면 한국 기업의 AI 모델 개발과 서비스, 반도체와 데이터센터 운용에도 영향을 미칠 수밖에 없다. 우물쭈물하다 어느 한쪽이 만든 기준을 뒤늦게 받아들이는 상황을 만들면 곤란하다. 선제적으로 고위험 AI를 평가할 기술과 기준, 사이버와 바이오 분야의 검증 체계, AI 에이전트의 행동을 추적하고 사고를 분석할 역량을 갖추고 정책적 시나리오를 만들어 대비해야 한다. 그래야 모델과 반도체를 만드는 경쟁에 참여하는 데 그치지 않고 앞으로 만들어질 AI 안전 규칙에도 한국의 이해를 반영할 수 있다.

AI의 위험이 커질수록 미국과 중국은 협력해야 할 이유가 늘어난다. 동시에 경쟁이 치열해질수록 상대가 만든 규칙을 그대로 받아들이기는 더 어려워진다. 이번 주 두 정상이 AI를 협상 테이블에 올린다는 사실은 그 모순이 이미 현실적인 외교 문제가 되었다는 것을 보여준다. 미·중 AI 경쟁은 이제 누가 더 강한 모델을 먼저 만드느냐를 넘어, 어떤 위험을 통제하고 어떤 규칙을 국제적인 기준으로 설정할 것인가로 판가름 날 것이다.

필자 주요 이력

▲ 경기연구원 AI 연구실 연구위원 ▲ 한양대학교 전략정보학과 겸임 교수 ▲ 대통령 직속 기본사회위원회 지방정부 특위 위원 ▲ 경제인문사회연구회 해외기관평가위원