[아주사설│기본·원칙·상식] "인류멸망은 현실", AI 가드레일 만들자는 빅테크의 검은 속셈

[생성=나노바나나]

오픈AI, 앤트로픽 등 글로벌 인공지능(AI) 시장을 이끄는 선두 기업의 최고경영자(CEO)와 수석 연구원들이 "AI가 인류를 멸종시킬 것"이라고 경고한다. 특이점을 넘어선 AI 기술은 인류 멸망의 단초가 될 수 있다며 개발 속도를 조절하자고 말한다. 

AI는 잠을 자지 않는다. 쉬거나 딴 생각도 안한다. 인간이 지겹고 힘들어 하는 일도 순식간에 해낸다. 잠도 자고 수시로 잡생각에 빠지는 인간들이 못푼 수학난제도 척척 푼다. 기술이 고도화 될수록 인간이 AI를 이해하는 일은 불가능해진다. 이해할 수 없는 존재를 우리는 두려워한다. AI에 대한 공포는 이미 현실이다. 

도널드 트럼프 대통령은 반대로 말한다. "황금알을 낳는 거위를 죽이지 말라", "중국 좋은 일만 시킨다"고 했다. "인류멸망론은 사기"라고도 했다. 결론부터 말하자면 트럼프가 옳고 빅테크 CEO들의 엄살은 틀렸다. 

지금의 AI 위기를 만든 당사자들은 빅테크 CEO들이다. 범용인공지능(AGI)이라는 목표를 향해 무한 경쟁에 나섰던 이들이다. 이 과정에서 이미 선두가 정해졌다. 실리콘밸리 벤처캐피털 멘로벤처스에 따르면 세계 대형언어모델(LLM) 시장에서 오픈AI, 앤트로픽, 구글 등 3개 빅테크의 합산 점유율은 약 90%를 차지하고 있다.

이들 3개사의 모델들은 오픈소스 진영의 모델 대비 성능면에서 9개월~1년 이상 앞서 있다. AGI에 가장 근접한 모델도 이들 외에는 없다. 

하지만 말처럼 스스로 멈춰설 생각은 없어보인다. 인류 종말을 경고하지만 차세대 모델 개발은 계속하고 있다. 막대한 투자금을 바탕으로 데이터센터 등 인프라 확대도 멈추지 않고 있다. 인류 멸망이 정말 우려된다면 AGI에 근접했다고 자평하는 이들이 스스로 개발 속도를 늦추면 될 일이다. 1년 가까이 기술력에서 차이가 나는 기업들을 향해 할 얘기는 아니다. 

다리오 아모데이 앤트로픽 CEO는 AI 기술의 속도 조절을 위해 1~2년간 경쟁을 자제하고 독립적인 경쟁 평가 기관을 만들자고 제안했다. 가드레일을 만들어 국제 합의를 이끌어내자고도 했다. 다 좋은 얘기지만 공평하지 않다. 3자 외부 기관을 만들어도 모든 기준은 빅테크가 만들어 낸다. 

규제의 벽이 높아질수록 법적·기술적 대응 능력이 부족한 후발 스타트업이나 경쟁국 기업들은 시장 진입 자체가 불가능해진다. 속도 조절과 규제 강화의 최대 수혜자는 위험을 경고한 빅테크 자신들일 수밖에 없다. 거대한 시장 독점을 영구화 할 뿐이다.

위기의 실체가 없다고 주장하는 것은 아니다. 글로벌 각국이 안전 기준과 법적 틀을 만드는 것은 우리 시대의 과제다. 지금까지 인류가 발명한 모든 기술은 인류의 안전과 윤리를 지켜왔다. 그래서 우리는 멸망하지 않고 다음 세대 기술을 만들어낼 수 있었다.

때문에 그 가드레일의 규칙을 현재 AI 시장을 지배하는 몇몇 빅테크가 주도하는 상황이 돼서는 안된다. 시장을 독점하고 있는 이들에게 기득권을 지킬 수 있도록 규칙까지 만들어 주는 셈이기 때문이다. AI 기술은 인류의 자산이 아닌 특정 기업의 영구적인 권력으로 고착될 것이다. 

이미 시작된 AGI 레이스는 멈출 수 없다. 필요한 것은 시장 독점을 노리는 빅테크의 위선적 경고가 아니라, 특정 기업에 휘둘리지 않는 공정하고 투명한 중립적 가드레일이다.