앤트로픽, "AI, 스스로 후속 모델 개발 가능성, 속도 조절해야"

4일 공식 블로그 "AI 개발 일부 AI에 위임…엔지니어 코드 생산량 8배 증가"

"재귀적 자기 개선, 도달 단계 아니지만 예상보다 빨리 올 수 있어"·

"AI 개발 속도를 늦추거나 일시 중단할 수 있는 선택지도 필요" 주장

앤트로픽 [사진=로이터, 연합뉴스]

인공지능(AI) 기업 앤트로픽이 AI가 개발을 가속화하는 단계를 넘어 장기적으로는 스스로 AI 시스템을 설계·개발하는 '재귀적 자기 개선(recursive self-improvement)' 가능성을 제기했다. 앤트로픽은 아직 해당 단계에 도달한 것은 아니지만 속도를 늦출 필요성이 있다고 주장했다.

5일 정보기술(IT) 업계에 따르면 앤트로픽은 4일(현지시간) 공식 블로그를 통해 "AI 역사 대부분의 기간 동안 인간이 개발 주기의 모든 단계를 주도했지만, 앤트로픽에서는 AI 개발의 점점 더 많은 부분을 AI 시스템 자체에 위임하고 있다"고 말했다.

'AI가 스스로를 구축할 때'라는 제목의 해당 글은 앤트로픽 내부 연구조직 '인스티튜트'의 마리나 파바로 대표와 공동창업자인 잭 클라크가 공동으로 작성했다. 

앤트로픽은 "AI 역사 대부분의 기간 동안 인간이 개발 주기의 모든 단계를 주도했지만 앤트로픽은 AI 개발의 점점 더 많은 부분을 AI 시스템 자체에 위임하고 있다"고 언급했다. 컴퓨팅 자원과 결합하면 AI가 자신의 후속 시스템을 완전히 자율적으로 설계·개발하는 단계로 이어질 수 있다는 설명이다. 

앤트로픽은 내부 데이터와 공개 벤치마크를 근거로 AI가 이미 AI 개발 속도를 높이고 있다고 주장했다. 회사에 따르면 현재 앤트로픽 엔지니어들은 2021~2025년 대비 분기당 평균 8배 많은 코드를 배포하고 있다. 지난달 기준 앤트로픽 코드베이스에 병합된 코드의 80% 이상은 클로드가 작성한 것으로 집계됐다.

AI의 작업 수행 범위도 빠르게 넓어지고 있다. 앤트로픽은 "2024년 3월 클로드 Opus 3가 인간 기준 약 4분짜리 소프트웨어 작업을 수행했다"며 "이후 모델은 1시간 30분, 12시간 규모 작업까지 처리할 수 있게 됐다"고 설명했다. 또 "코딩 벤치마크와 연구 재현 벤치마크에서도 모델 성능이 빠르게 개선되고 있다"고 덧붙였다.

다만 앤트로픽은 "클로드는 목표가 주어진 실험을 수행하거나 코드를 작성하는 데 강점을 보이지만 어떤 문제가 중요한지와 어떤 실험을 해야 하는지, 어떤 결과를 신뢰해야 하는지를 판단하는 '연구 감각'은 아직 인간이 비교우위 영역에 있다"고 언급했다. 

앤트로픽은 향후 시나리오로 △AI 발전 속도 정체 후 현재 역량의 확산 △AI 연구소의 복합적 효율성 향상 지속 △AI 시스템의 완전한 재귀적 자기 개선 도달 등을 제시했다. 특히 AI 시스템의 완전한 재귀적 자기 개선 도달에 대해서는 "과학·의료 등에서 큰 이익을 가져올 수 있지만 인간이 AI 시스템에 대한 통제력을 잃을 위험도 커질 수 있다"고 지적했다.

앤트로픽은 "프런티어 AI 개발 속도를 늦추거나 일시 중단할 수 있는 국제적 선택지가 필요하다"고도 주장했다. 단일 기업의 일방적 중단만으로는 효과가 제한적이며 여러 국가와 주요 AI 연구소가 검증 가능한 방식으로 함께 속도를 조절할 수 있어야 한다는 설명이다.

아주캐스트