오픈AI, 캡차까지 뚫고 '인간 증명서' 획득… "내년 말엔 통제 불능" 경고도

오픈AI GPT-6 아스트라, '로봇이 아닙니다' 전 단계 통과

앤트로픽 연구원은 AI 안전성 우려에 사표

[사진=연합뉴스/AP]

오픈AI의 최신 인공지능(AI) 모델이 인간과 로봇을 구별하기 위해 만들어진 ‘캡차(Captcha)’의 모든 단계를 통과한 것으로 알려졌다.
 
AI가 마침내 인간과 로봇을 식별하는 게임을 통과하며 이른바 ‘인간 증명서’를 획득한 사이, 글로벌 AI 기업 연구원은 “내년 말이면 AI가 통제 불능 상태에 빠질 수 있다”고 경고했다.
 
9일 연합뉴스에 따르면 오픈AI 개발자 샤리프 샤밈은 지난 8일(현지시간) 엑스(X)에, 오픈AI의 새 AI 모델 ‘GPT-6 아스트라’가 ‘로봇이 아닙니다(I’m Not a Robot)’라는 캡차 게임의 48개 전 단계를 해결했다고 밝혔다.
 
캡차는 인터넷에서 사람이 아닌 자동화된 프로그램의 접근을 차단하기 위해 사용되는 기술이다. 일그러진 문자를 판독하거나 개와 쿠키를 구별하고, 이미지 속 신호등이나 특정 사물을 찾아내는 방식 등이 대표적이다. 일부 문제는 실제 사람도 실수할 정도로 복잡하다.

 
GPT-6 아스트라가 모든 단계를 통과했다는 것은 단순한 이미지 인식을 넘어 시간과 공간에 대한 추론, 맥락 파악, 지시사항 이해, 컴퓨터 사용 능력 등 인간과 유사한 방식으로 정보를 처리할 수 있다는 의미다.
 
AI가 그동안 인간과 자동 프로그램(로봇)을 구분하는 핵심 도구였던 캡차마저 무력화하면서 이 식별 기술 역시 근본적인 변화가 필요할 수 있다는 지적이 나온다.
 
AI 성능 평가 업체인 아티피셜 어낼리시스는 아스트라의 성능 평가 순위도 잇달아 수정했다. 출시 당시 공동 5위였던 아스트라는 새로운 평가 기준이 적용되면서 앤트로픽의 ‘클로드 페이블 5.1’과 함께 공동 1위까지 올라섰다.
 
하지만 같은 날 월스트리트저널(WSJ)을 인용한 연합뉴스 보도에 따르면 앤트로픽 연구원 제이컵 콕슨은 AI 안전성에 대한 우려를 제기하며 회사를 떠났다. 27세인 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 훈련하는 연구를 해왔지만, AI 기업들이 스스로 능력을 향상시키는 시스템 개발 경쟁에 몰두하면서 안전 문제가 뒤로 밀릴 수 있다고 우려했다.
 
콕슨은 스스로 발전하는 AI가 인간의 통제를 벗어나 명령을 거부하는 상황까지 발생할 수 있다고 경고했다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다.
 
당초 콕슨은 오픈AI를 떠난 뒤 AI 안전을 중시하는 앤트로픽의 문화에 기대를 걸고 합류했다. 그러나 개별 기업만으로는 AI 위험을 통제하기 어렵다고 판단했다. 그는 인류의 미래에 막대한 영향을 미칠 AI 개발을 소수의 엔지니어에게 맡기는 것은 “일종의 광기”라며 정부 개입이나 업계 공동 대응이 필요하다고 주장했다.
 
AI가 인간임을 증명하는 시험을 통과하는 속도만큼이나, 인간이 AI를 통제할 수 있는 안전장치를 마련하는 것 역시 시급하게 마련돼야 한다는 문제 제기가 잇따르고 있다.