AI 안전 놓고 맞붙은 아모데이·젠슨 황…"속도 조절" vs "규제 불필요"

아모데이 "자체 점검·업계 표준·국제 공조 필요"

젠슨 황 "시장 통제력 이미 작동…새 규제 필요 없어"

다리오 아모데이 앤트로픽 최고경영자(CEO) [사진=로이터·연합뉴스]

다리오 아모데이 앤트로픽 최고경영자(CEO)와 젠슨 황 엔비디아 CEO가 인공지능(AI) 개발 속도와 안전 문제를 놓고 정면으로 맞섰다.

15일(현지시간) 가디언에 따르면 아모데이 CEO는 이날 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 행사 '드림포스'에서 마크 베니오프 세일즈포스 CEO의 기조 발표 무대에 올라 AI 안전을 위해 자체 점검과 업계 표준 정립, 국제 공조라는 3단계 접근법이 필요하다고 주장했다.

그는 "자동차 회사에서 브레이크 문제나 제조 과정의 결함으로 안전 문제가 생겼다고 가정해보자"며 "이에 책임 있게 대응하려면 먼저 자신의 기록을 돌아봐야 한다"고 말했다. 이어 "그다음에는 업계 전체가 모여 모두에게 적용할 안전 표준을 마련하기 위해 논의해야 한다"며 "마지막으로 국제적인 협력도 필요하다"고 강조했다.

아모데이 CEO는 과거 연산 자원이 늘어날수록 AI 성능이 향상될 것이라는 이른바 '스케일링 법칙'을 제시하며 AI 발전을 예견했지만, 실제 발전 속도는 자신의 예상보다도 빨랐다고 말했다.

그는 "비즈니스 세계에서 이런 속도가 가능하다는 점에 놀라고 있다"고 했다. 그러면서 "AI 기술을 현재 수준에서 동결하더라도 지금 우리가 활용하는 가치는 AI가 가진 전체 가치의 5∼10%에 불과하다"며 "시장에 확산해 사회적 혜택을 제공할 수 있는 영역이 여전히 무궁무진하게 남아 있다"고 말했다.

다만 그는 "AI의 속도를 조절하자는 것이 기술 발전을 동결하자는 뜻은 아니다"라며 "AI 기술은 앞으로도 계속 발전할 것"이라고 덧붙였다.

베니오프 CEO도 "지난 10년간 일어난 일은 정말 놀라웠다. 누구도 이런 시나리오를 예상하지 못했을 것"이라며 "우리는 AI 발전 속도를 계속 주시해야 한다"고 말했다.

하지만 뒤이어 무대에 오른 황 CEO는 정반대 입장을 내놨다. 그는 "안전은 최우선 과제이지만 동시에 공학적 문제"라며 "속도와 안전은 서로 상충하는 선택지가 아니며 두 가지를 동시에 달성할 수 있다"고 반박했다.

그는 AI가 매우 복잡하지만 결국 하나의 '연산 체계'라면서 복잡한 체계를 충분히 시험할 수 있는 환경을 구축하고, 안전을 확신할 수 없다면 제품을 개발하더라도 출시하지 않으면 된다고 주장했다.

AI 안전을 위한 규제가 필요하다는 주장에 대해서도 "시장의 통제력이 이미 작동하고 있으며 새로운 법도, 새로운 규제도 필요 없다"며 "시장에서 인정받을 만한 제품을 출시할 수 있다는 확신이 들 때까지 각 기업이 속도를 조절하면 된다"고 말했다.

일각에서 제기되는 AI에 따른 일자리 감소나 이른바 '사스포칼립스'(SaaSpocalypse·서비스형 소프트웨어 종말론)에 대해서도 "말도 안 되는 소리"라고 일축했다. 오히려 AI가 일자리와 소프트웨어 사용량을 늘릴 것이라는 기존 입장을 재확인했다.

앞서 아모데이 CEO는 지난 12일 개인 블로그에 글을 올려 AI 안전을 위해 개발 속도를 조절해야 한다고 주장해 논쟁을 불러일으켰다.

샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 최고과학자, 일론 머스크 xAI CEO 등은 이에 공감을 나타낸 반면 도널드 트럼프 미국 대통령은 이 같은 AI 안전 우려를 '사기'라고 주장하며 규제론에 강하게 반대하고 있다.

황 CEO도 지난 14일 '올인 서밋' 토론에서 트럼프 대통령과 스피커폰으로 통화하며 그의 주장에 동의했다.