글로벌 AI 기업의 '속도조절론' …전문가들 "韓, 프런티어 개발·안전성 확보 '투트랙 전략' 필요"

국가AI전략위, 'AI 개발 속도조절론' 세미나 개최…이원태 위원장 "속도책임론 구체화해야"

최대선 숭실대 AI안전성연구센터장도 "프런티어 모델 개발·AI에 대한 안전 체계 구축할 필요"

[사진=박종호 기자]

 

인공지능(AI) 발전으로 인간이 통제하지 못하는 상황이 빈번해지면서 글로벌 빅테크 기업에서 'AI 속도조절론'이 나오고 있다.

미국·중국을 비롯한 각국 정부가 입장을 내놓고 있는 가운데 한국은 프런티어 모델 개발을 늦추지 않으면서 검증된 AI 생태계를 조성하기 위한 안전·보안도 설계하는 '투트랙' 전략을 추진해야 한다는 목소리가 나왔다.  

이원태 보안특위원장은 1일 국가AI전략위원회(위원회)가 개최한 'AI 개발 속도조절론' 세미나에서 "글로벌 기업이 '속도조절'에 대한 문제를 제기하고 국가 차원에서 논의가 진행되고 있는 가운데 한국은 '속도책임론'을 구체화해야 한다"며 이같이 말했다. 

속도책임론은 프런티어 역량과 안전·보안 통제 역량을 함께 구축해야 한다는 것을 골자로 한다. 

지난달 다리오 아모데이 앤트로픽 최고책임자(CEO)가 'AI 속도조절론' 언급했다. 하지만 이 위원장은 AI 개발을 중단하자는 뜻이 아니라고 해석했다. 그는 "AI 개발을 늦추는 것이 아니라 AI가 통제할 수 없도록 방치하지 말자는 것"이라고 분석했다. 

아모데이 CEO가 속도조절론을 언급한 이후 글로벌 빅테크 기업 3곳이 신모델을 출시했다. 이 위원장은 "AI 위험을 언급하면서도 자기 시장을 보호하려는 이중적 플레이"라며 "한국도 AI 개발을 늦춰서는 안 된다"고 강조했다. 결국 한국은 프런티어 모델 개발을 늦추지 않으면서 보안이 담보될 수 있도록 노력해야 한다는 얘기다.

또 이 위원장은 현재 AI 산업이 두 축으로 진행되고 있다고 봤다. 한 축은 미국·중국이 최소한의 소통 채널을 통해 AI 산업을 확보하려는 것이고, 다른 한 축은 두 국가를 제외한 다자간 협의체다. 

이런 상황에서 한국은 '기능 연대'로 AI 전략을 짜야 한다고 주장했다. 이 위원장은 "어떤 진영을 선택하는 것이 아니라 그들이 필요한 부분의 공통 분모를 잘 설계해서 국제적인 문제를 선도해 대안을 제시할 수 있어야 한다"고 밝혔다. 

그러면서 "표준이 완성된 뒤 늦게 참여하는 것이 아니라 양자 규칙을 만들어서 규범을 연결하는 공동 설계자로 역할을 해야 한다"고 덧붙였다. 

최대선 숭실대 AI안전성연구센터장은 프런티어 모델의 개발을 진행하면서도 AI에 대한 안전 체계를 구축할 수 있도록 제도적·기술적 기반이 필요하다는 점을 강조했다. 

그는 "AI로 인한 위험이 어느 정도인지 모르기 때문에 대비 수준과 접근 범위를 정하지 못하고, 악의 없이 벗어났을 때 격리 수준을 못 정한다"며 대응 체계가 필요하다고 지적했다.

현재 한국은 모델만 검증하고 있지만 전체 솔루션을 평가할 수 있는 체계를 구축해야 하고, 악용 가능성을 통제할 수 있는 법령이 정비돼야 한다고 조언했다. 

김성훈 업스테이지 대표는 시대의 흐름이 AI에서 초지능(SI) 단계로 넘어갔고 '스스로 개선하는 초'지능으로 넘어가고 있다고 분석했다. 

이런 상황에서 국내 속도 조절이 글로벌 빅테크와의 격차를 벌릴 수 있는 만큼 이를 뛰어넘는 모델을 개발해야 한다고 강조했다. 그는 "미국·중국이 전속력으로 달리고 있는 상황에서 우리나라도 SI2로 넘어가도록 기술을 개발해야 한다"며 "그 이후에 속도에 대한 책임이 필요하다"고 말했다. 

속도 책임을 위해서는 한국지능정보사회진흥원(NIA) 벤치마크와 인공지능 분석 등 제3자 평가로 성능과 한계를 공개하고 국가 안전 평가가 진행돼야 하며, 자기 개선 루프에 안전장치를 마련해야 한다고 했다.  

이한울 에임인텔리전스 부사장도 한국의 프런티어 모델은 나와야 한다고 강조하면서도 평가할 수 있는 안전 기준이 나와야 한다고 강조했다. 

또한 AI의 악용 위험을 고려해 모델의 공개 범위와 접근 대상을 정하고, 에이전트에 부여할 권한과 문제 발생 시 개입 방식을 검토해야 한다고 말했다. 기업이 보안 업무에 AI를 도입할 때 안전성이 검증된 기술의 활용을 어렵게 만드는 요인도 살펴봐야 한다는 설명이다.