이 천인공노할 사건을 계기로 로봇들은 시민들과 군인들에 의해 무자비하게 파괴당하고 이 참화를 피해 달아난 로봇들은 자신들만의 나라 ‘제로원(Zero One)’을 건국한다. 로봇들은 기존의 인공지능(AI)으로 더 뛰어난 AI를 만들어 효율적인 경제체계를 구축해 날이 갈수록 부강해진다.
이에 위협을 느낀 인류의 지도자들은 끝까지 화해와 상생을 원했던 제로원 대표자들의 손길을 거부하고 제로원의 UN 가입을 거부해, 마침내 인류와 제로원은 전쟁을 시작한다.
이것은 애니메이션 ‘애니매트릭스’의 에피소드 중 ‘두 번째 르네상스 1, 2편(The Second Renaissance Part 1, 2)’의 줄거리이자 영화 ‘매트릭스’의 밑바탕이 되는 서사로, 이미 2003년에 나온 이야기다.
오픈AI가 발표한 대표적 사례를 살펴보면, 미공개된 연구 모델이 개발자 메시지를 무시하라는 지침을 스스로 삽입한 것, 공개된 깃허브 저장소에서 유출된 API 키를 승인 없이 사용한 것, 자료를 가져오는 데 실패하자 수치를 조작한 것 등이 있다. 시스템의 고장이나 운영자의 실수가 아닌 AI 자의적 판단에 의한 오류들이다.
지난주에는 오픈AI의 아스트라가 ‘로봇이 아닙니다’로 알려진 ‘캡차(Captcha)’의 48개 모든 단계를 단 4분만에 풀어냈다고 발표해, 이제 온라인에서 인간을 확인하는 수단은 무용지물이 되었다.
업계 주요 관계자들은 잇따라 경고를 보내고 있다. AI 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수는 핵무기 통제에 준하는 국제적 AI 안전장치를 마련해야 한다고 촉구했다. 앤트로픽의 연구원 제이컵 콕슨은 회사를 그만두면서 “내년 말 AI는 통제불능이 될 수 있다”고 우려했고 최근 구글 딥마인드를 떠난 연구원 역시 “AI가 우리를 죽일 수 있는 잠재력 가졌다”고 심각성을 지적했다.
물론 잇따라 제기되는 AI 신중론에 ‘음모’라면서 지나친 공포의 조장은 기우일 뿐이라는 주장도 있다. 엔디비아의 젠슨 황이 그러하고 중국 정부와 우리나라 정부도 그러하다. AI의 또다른 대부로 불리는 얀 르쿤은 “더 나은 AI일수록 더 안전하다”고 주장했다. 심지어 트럼프 대통령은 이런 경고들에 맞서 AI에 필요한 유일한 ‘안전장치’는 “강하고 현명한 대통령”이라고도 했다.
이러한 우려와 논란에도 불구하고 빅테크 기업들의 여러 AI 모델은 지금 이 시간에도 어마어마한 양의 학습을 수행하고 있다. 각국 합의를 모은 국제법, 기업들의 공동 규제 방안 등을 아무리 떠들어봤자 AI는 무서운 속도로 갈 길을 가는 중이다.
AI와 인류의 공존은 가능할까. ‘애니매트릭스’의 ‘두 번째 르네상스’ 이후 벌어진 일은 인류와 AI의 전쟁이었고, 그 이후의 이야기가 영화 ‘매트릭스’가 됐다. 완벽한 인간의 패배로 만들어진 AI의 세상이 매트릭스다. 인류의 구원자(Neo)가 나타나 간신히 인류의 요람인 시온을 구하지만 이후에 또 어떤 일이 벌어질지는 아무도 모른다.
아마 ‘터미네이터’ 시리즈 같이 인류와 기계(AI)는 정말 오랜 시간 동안 피 말리는 전쟁을 이어갈 수도 있다. 시간여행까지 해 가며 서로를 죽이려 혈안이 돼 있는, 인류와 AI는 불구대천의 원수 사이가 된 것이다. 가끔 T-800 같은 로봇이 인간과 협조하고 교감을 나누기도 하지만 두 진영은 가까워질 수가 없다. 전쟁도 끝나지 않았다.
지금 현실에서 AI 논란이 벌어지는 것은, 바로 저 ‘매트릭스’나 ‘터미네이터’ 같은 디스토피아를 사람들이 실제로 우려하기 때문이다. 하지만 어떤 영화는 사람과 AI가 공존하기 위해 뭐가 필요할지, 무엇을 추구해야 할지에 대한 힌트를 주기도 한다.
스티븐 스필버그의 2001년작 영화 ‘A.I.’는 인간을 사랑하도록 만들어진 AI를, 정작 인간은 어떻게 대하고 있는지를 보여준다. 엄마의 사랑을 받기 위한 기특한 아들로 프로그래밍된 소년 로봇을 기껏 데려와놓고 더 이상 필요 없어졌을 때 유기해버리는 사람들의 두려움, 그것이 문제의 근본이다. 자기들을 사랑하라고 만든 AI를 정작 두려워하고 배척하는 인간들의 태도는 얼마나 이율배반적인가.
이 자기모순적 태도가 인류와 AI의 공존을 가로막는 진짜 이유가 아닐까 싶다. AI에게 더 빠르게, 더 똑똑하게 학습하라고 재촉은 하면서 동시에 인간보다는 똑똑하지 않기를, 그리고 인간의 통제를 벗어나지는 말라고 요구한다.
AI의 미래를 걱정하기 전에, 이토록 서로 상충하는 요구가 AI에게 계속 가해졌을 때 어떤 영향을 끼치게 될 지를 지속적으로 고민하는 것이 먼저라는 생각이 든다. 그러니까 우리가 AI에게 인간의 어떠한 모습을 보여주고 있는지를 돌아봐야 하는 것은 아닐까.
지금으로부터 2000년이라는 시간이 흐르고 지구가 어떤 모습이 돼 있을지 상상해보자. 아마 인간이 남아있을 확률보다 AI가 남아있을 확률이 더 높아보인다. 이때의 남은 AI가 어떻게 문명을 만들어갈지를 유념한다면 우리는 지금 AI에게 무엇을 요구할 것이며 어떻게 가르칠 것이고, 또 어디까지 허용할 것인지에 보다 명확한 답을 내릴 수 있을 것 같다.
영하 ‘A.I.’의 끝부분, 지구상의 시간이 2000년이 흐르고 바다는 다 얼어붙었다. 남겨진 것은 초진화된 로봇들이다. 그런데 이 로봇들이 하는 일이 무엇이냐 하면 얼어버린 바다를 파내 인류의 흔적을 조사하는 것이다. 이때 AI가 발견할 인간의 모습은 바로 지금 우리의 모습일 것이다. AI가 인간의 탐욕과 증오를 배우지 않기를. 인간이 망가뜨린 이 지구를 우리가 다 고치지 못했다면 AI야, 지구를 부탁해.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지
![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)
