[곽재원의 Now&Future] AI는 달린다 …인간은 과연 더 현명해질 것인가

AI 대전환의 SWOT

인공지능(AI)을 둘러싼 세계의 공기가 갑자기 달라지고 있다. 불과 얼마 전까지 경쟁의 화두는 누가 더 큰 모델을 만들고, 더 많은 GPU를 확보하고, 더 거대한 데이터센터를 건설하느냐였다. 그런데 이제 세계 최고의 수학자들과 AI를 직접 만드는 기업들 사이에서 “우리가 너무 빨리 가고 있는 것은 아닌가”라는 질문이 나오기 시작했다.

지난 9월 11일 25명의 필즈상 수상자를 포함한 세계적 수학자들은 ‘수학에서 AI의 심각한 미스얼라인먼트(A Severe Misalignment of AI in Mathematics)’라는 선언을 발표했다. 이들이 문제 삼은 것은 놀랍게도 AI가 수학을 못한다는 것이 아니었다. 정반대였다. AI가 너무 빨리 수학 난제를 풀기 시작했다는 사실이었다. 이들은 AI 기업이 수학 문제를 얼마나 많이, 얼마나 빨리 푸느냐를 능력의 척도로 삼는 과정에서 수학의 본질인 개념적 이해와 통찰, 인간 사이의 토론과 지식 전승이 훼손될 수 있다고 경고했다. AI가 정답을 만들어내는 것과 인간이 그것을 이해하는 것은 전혀 다른 문제라는 것이다.

AI를 만드는 당사자들 사이에서도 이상기류가 나타났다. 최근 앤스로픽의 다리오 아모데이를 비롯한 주요 AI 기업 경영자들이 최첨단 AI 개발의 속도를 조절하고 안전성을 점검할 시간을 확보해야 한다는 주장을 내놓았다. AI가 가져올 위험을 경고해 온 외부 학자들의 주장이 아니라 AI 개발 경쟁의 최전선에 있는 사람들이 브레이크를 이야기하기 시작했다는 점에서 의미가 다르다.

그러자 도널드 트럼프 미국 대통령은 정반대 방향에서 반론을 제기했다. 그는 중국과의 경쟁을 강조하며 미국이 AI에서 앞서 있고 이를 유지해야 한다는 취지로 개발 감속론에 반대했다. 여기에는 AI 안전의 문제와 미·중 기술패권 경쟁이라는 지정학적 문제가 정면으로 충돌하고 있다.

관련기사

9·11 이후 25년…위기는 '기술혁신의 자기증폭 시대'를 열었다

흥미로운 것은 이 논쟁이 벌어지는 바로 그 순간에도 세계의 AI 투자는 더욱 커지고 있다는 사실이다. 올해 AI 관련 투자가 약 8000억 달러에 이를 것이라는 전망이 나오는 가운데 시장에서는 2027년 1조 달러를 넘어설 가능성까지 거론한다. 한쪽에서는 가속페달을 밟고 다른 한쪽에서는 브레이크를 찾고 있는 것이다. 그렇다면 우리는 지금 어디에 서 있는가.

필자는 이 질문을 AI 당사자에게 직접 던져보았다. “너 자신을 SWOT으로 분석해 보라.” AI가 AI를 분석하게 한 셈이다. 그 결과를 ‘AI 대전환의 SWOT’이라는 한 장의 그림으로 정리해 보니 지금 세계에서 벌어지는 복잡한 논쟁의 구조가 의외로 선명하게 나타났다.

먼저 AI의 강점(Strength)은 명확하다. 한마디로 ‘지능의 증폭’이다. 산업혁명 이후 인류는 인간의 능력을 끊임없이 기계에 이전해 왔다. 증기기관은 근육을 증폭시켰고 자동차는 이동능력을, 컴퓨터는 계산능력을, 인터넷은 정보 접근능력을 확장했다. AI는 여기에서 한 단계 더 나아간다. 인간의 지적 작업 자체를 증폭시키기 시작했다.

자료를 찾고 분석하고 번역하고 프로그램을 만들고 이미지를 제작하고 복잡한 문제의 해결책을 제시한다. 의학에서는 진단과 신약개발을 돕고 과학에서는 방대한 연구공간을 탐색한다. 기업에서는 생산성과 자동화를 높이고 개인에게는 과거 일부 전문가에게만 가능했던 지적 능력을 제공한다.

그래서 AI의 가장 강력한 힘은 단순한 자동화가 아니다. ‘지능의 대중화’다. 그러나 바로 이 강점에서 AI의 약점(Weakness)이 발생한다. 필자는 이를 ‘너무 유용한 기술의 역설’이라고 부르고 싶다. AI가 형편없는 기술이라면 인간에게 별다른 위협이 되지 않는다. 문제는 AI가 놀라울 정도로 편리하고 점점 더 유능해지고 있다는 것이다. 과거에는 사람이 책을 읽고 자료를 찾고 비교하고 고민한 뒤 결론을 내렸다. 이제는 질문 몇 줄이면 AI가 그 과정을 상당 부분 대신한다.

여기에서 새로운 연쇄가 시작될 수 있다. AI의 보조가 AI 의존으로 바뀌고, 의존이 사고의 외주화로 이어지며, 결국 인간의 지적 능력 자체가 약화되는 것이다. 이것을 ‘AI 의존성의 역설’이라고 부를 수 있다. AI가 똑똑해질수록 인간도 자동적으로 똑똑해지는 것은 아니다. 오히려 인간이 스스로 생각해야 할 필요성을 줄여버릴 수도 있다.

최근 수학자들의 문제 제기가 중요한 이유가 여기에 있다. 수학의 목적이 정답을 빨리 얻는 것이라면 AI의 발전은 축복이다. 그러나 수학의 목적이 문제를 이해하고 새로운 개념을 만들며 다음 세대가 스스로 사고할 수 있도록 지식을 전승하는 데 있다면 이야기는 달라진다. 지난 6월 국제수학연맹(IMU)이 지지한 ‘라이덴 선언’ 역시 AI 시대에도 수학 연구가 인간의 판단과 투명한 연구 관행, 공동체의 가치에 의해 이끌려야 한다고 강조했다.

이 문제는 수학에만 해당하지 않는다. 학생이 AI로 리포트를 쓰고, 기자가 AI로 기사를 만들며, 연구자가 AI로 논문을 정리하고, 경영자가 AI의 분석을 받아 의사결정을 내린다고 생각해 보자. 결과물의 생산성은 올라갈 것이다. 그러나 인간이 질문을 만들고 오류를 발견하고 서로 다른 가능성을 비교하는 능력까지 AI에 넘기기 시작하면 생산성 증가와 지적 능력의 약화가 동시에 일어나는 기묘한 현상이 나타날 수 있다.

그렇다고 AI의 발전을 멈추자는 결론으로 곧바로 가는 것도 성급하다. SWOT의 세 번째 요소인 기회(Opportunity)가 너무나 크기 때문이다.

생성형 AI는 이제 에이전틱 AI로 진화하고 있으며 그 다음 단계에서는 로봇과 결합한 피지컬 AI가 현실 세계로 나온다. AI가 문장을 만들어주는 수준을 넘어 스스로 계획하고 행동하며 기계와 공장을 움직이게 된다.

고령화와 노동력 부족에 직면한 국가에는 새로운 노동력이 될 수 있다. 개인별 교육과 의료를 가능하게 하고 과학자에게는 새로운 발견의 파트너가 될 수 있다. 제조업에서는 스마트팩토리를 넘어 스스로 판단하는 공장이 등장할 수 있다. 장애인과 고령자의 능력을 보완하고 언어와 전문지식의 장벽도 낮출 수 있다.

그런 의미에서 AI를 단순히 인터넷의 다음 단계라고 보는 것은 과소평가일지 모른다. 장기적으로는 전기와 더 비슷한 범용기술이 될 가능성이 있다. 전기가 모든 산업의 생산방식을 바꾸었듯 AI 역시 거의 모든 산업의 생산함수를 바꿀 수 있기 때문이다.
그러나 바로 그 규모 때문에 위협(Threat)도 커진다. 첫째는 AI 버블이다. 지금 세계에서는 데이터센터와 GPU, 전력망과 반도체에 천문학적인 자본이 투입되고 있다. 문제는 그 투자가 만들어 낼 수익이 투자 증가속도를 따라갈 수 있느냐는 것이다. 최근에는 AI 기업 지도자들의 개발속도 조절론이 투자자들의 불안까지 자극하고 있다. 그러나 AI 버블 가능성과 AI 혁명의 실재 여부는 구별할 필요가 있다. 1990년대 닷컴버블이 붕괴했다고 인터넷 혁명이 사라진 것은 아니었다. 기술은 진짜였지만 자본이 기술보다 너무 빨리 달렸던 것이다. AI에서도 같은 일이 벌어질 가능성을 경계해야 한다.

둘째는 경제와 사회의 양극화다. AI 시대의 핵심 자원인 첨단 반도체, 클라우드, 데이터, 전력, 자본은 소수 국가와 소수 기업에 집중되어 있다. AI가 생산성을 높이더라도 그 과실이 일부 기업과 계층에 집중된다면 기술적 성공과 사회적 성공은 전혀 다른 결과를 낳을 수 있다. 셋째는 딥페이크와 사이버 공격, 군사적 활용이다. AI가 인간의 능력을 증폭한다는 말에는 선한 능력뿐 아니라 악의적 능력도 포함된다. 공격의 비용을 낮추고 속도를 높인다는 점에서 AI는 기존 디지털 기술과 다른 위험을 갖는다.
넷째는 미·중 AI 패권경쟁이다. 트럼프 대통령이 AI 개발 감속론에 반대하면서 중국과의 경쟁을 언급한 것은 이 문제의 본질을 잘 보여준다. 한 기업이 위험을 느껴 속도를 늦출 수는 있다. 그러나 경쟁국이 계속 달린다면 국가 차원에서는 멈추기 어렵다. AI 안전 문제가 국제정치의 ‘죄수의 딜레마’로 변하는 것이다. 이것이 앞으로 AI 거버넌스가 풀어야 할 가장 어려운 문제 가운데 하나다.

그래서 AI를 둘러싼 논쟁을 단순한 낙관론과 비관론의 대립으로 보아서는 안 된다. 경제적으로는 “이 엄청난 투자가 충분한 수익을 만들어낼 것인가”라는 질문이 있다. 사회적으로는 “AI가 인간의 일자리를 없앨 것인가, 인간의 능력을 증강할 것인가”라는 질문이 있다. 지성의 차원에서는 “AI가 인간을 더 똑똑하게 만들 것인가, 스스로 생각하지 않게 만들 것인가”라는 질문이 있다. 그리고 문명 차원에서는 “AI가 발전하는 속도를 인간의 제도와 통제능력이 따라갈 수 있는가”라는 가장 근본적인 질문이 기다리고 있다.

필자가 만든 ‘AI 대전환의 SWOT’ 한가운데에는 그래서 두 개의 상승곡선이 놓여 있다. 하나는 ‘AI의 능력’이고 다른 하나는 ‘인간의 통제능력’이다.

AI의 능력은 빠르게 올라간다. 그렇다면 인간의 법과 제도, 윤리, 교육, 기업의 책임, 국제적 거버넌스도 함께 올라가야 한다. 두 곡선 사이의 간격이 좁다면 AI는 인류 역사상 가장 강력한 생산성 혁명의 도구가 될 수 있다. 반대로 그 간격이 계속 벌어진다면 기술적 성공이 오히려 인간 사회의 위험으로 돌아올 수 있다.

여기에 AI 시대의 진짜 역설이 있다. 인류가 만들어야 할 것은 더 강력한 AI만이 아니다. 더 강력한 AI를 사용할 수 있는 더 현명한 인간과 사회다.

AI에 모든 것을 맡기는 사회도 위험하지만 두려움 때문에 AI의 발전 자체를 막는 사회 역시 미래를 잃을 수 있다. 필요한 것은 ‘가속이냐 감속이냐’라는 단순한 양자택일이 아니다. 어디에서는 과감하게 가속하고 어디에서는 의도적으로 속도를 조절해야 하는지를 판단할 능력이다.

결국 AI 대전환의 승패는 AI의 IQ만으로 결정되지 않을 것이다. AI가 인간보다 얼마나 더 똑똑해지는가보다 더 중요한 질문이 있다. AI와 함께 살아가는 인간은 과연 더 현명해질 것인가. 아이러니하게도 AI에게 AI 자신의 SWOT을 분석시켜 본 끝에 돌아온 질문은 기술에 관한 것이 아니라 인간에 관한 것이었다.