[김택환의 Next Korea] 내 마음에 도덕률이 있는가

판단까지 넘보는 AI…최종 책임은 인간의 몫

김택환 미래전환정책연구원 원장

“생각하면 할수록 더욱 새로워지고 더 깊어지는 경탄과 위엄으로 내 마음을 채우는 2가지가 있다. 내 위에 별이 빛나는 하늘과 내 안에 있는 도덕률이다.”

이는 위대한 철학자 이마누엘 칸트의 3대 비판서 중 하나인 <실천이성비판> 결론에 나오고, 고향인 쾨니히스베르크 대성당의 묘비에 새겨 있는 문구다.

AI 시대 왜 칸트를 소환하는가?

생산력을 획기적으로 높일 수 있는 신기술 AI가 대세이면서 미국, 유럽, 중국 등에서 많은 문제점을 일으키고 있다. 먼저 대형언어모델(LLM) 신기술을 개척한 오픈 AI, 클라우드 등 빅테크 기업들은 “인공지능(AI)이 인간의 통제를 벗어날 가능성”을 경고하면서도 개발 경쟁을 멈추지 않는다. 유럽에서는 러시아 및 테러 세력에 의한 사이버 공격과 가짜 정보, 사보타주를 결합한 하이브리드 전쟁이 민주주의 근간을 흔들 정도다. 중국에서는 사람처럼 대화하며 위로와 교감을 제공하는 AI 동반자가 확산되면서 인간의 감정과 관계까지 ‘외주화’하자 논쟁이 커지고 있다. 이에 대한 고급지 스위스 NZZ, 독일 FAZ, 프랑스 르몽드, 미국 뉴욕타임스 및 월스트리트저널 등이 연일 특집 탐사 기획보도를 내보내고 있다.

최강국 미국은 AI 개발을 주도하는 기업들뿐만 아니라 전문가들이 AI 기술의 잠재적 위험을 경고하고 나섰다. 대표적으로 앤트로픽을 떠나면서 제이컵 콕슨 전 연구원은 “이대로 가면 인류는 AI에 대한 통제를 잃을 가능성이 크고, 이는 인류 멸종으로 끝날 수 있다”는 경고를 날렸다. 유튜브 1억 조회 이상을 기록하면서 스타(?)로 부상했다. 구글 딥마인드의 알렉스 터너 역시 AI 위험을 알렸다.

미국의 AI 논쟁은 개발 속도와 안전 규제, 민간의 자율성과 공적 책임 사이의 긴장을 잘 보이고 있다. NYT 등은 “안전 확보를 위한 조치가 기업의 영향력 확대와 이해관계에서 완전히 분리될 수 있는지”에 대한 의문을 제기했다. 즉 기술을 만든 기업의 선의만으로 사회 전체의 안전을 보장할 수는 없다는 지적이다. 미국 트럼프 대통령은 테슬라 일론 머스크, 엔비디아 젠슨 황, 구글 순다르 피차이 등 7개 빅테크 최고 경영자들을 백악관에 초청해 논의한 후 ‘자율 규제’로 정리했다.

유럽의 경우 심각하다. 러시아 푸틴이 우크라이나를 침공하면서 물리적 전쟁뿐만 아니라 대륙에 하이브리드 전쟁이 벌어지고 있다. 프랑스 르몽드지는 올 5월 ‘러시아의 프랑스 내 여론 교란 작전’을 다룬 탐사보도에서 “온라인 허위정보뿐 아니라 공공장소의 도발과 물리적 행동까지 결합하는 양상”을 추적했다. 또 10월에는 러시아발 하이브리드 위협이 유럽에서 확대되면서 “각국의 대응과 공조가 중요한 과제로 떠오르고 있다”고 보도했다. AI에 기반한 페이커 뉴스뿐만 아니라 해킹, AI 기반 자폭 드론까지 나타나고 있다. 하이브리드 전쟁 목적은 사회적 갈등을 확산하고, 언론과 정부에 대한 불신을 키우면서 시민들이 무엇을 사실로 믿어야 할지 혼란스럽게 만드는 데 있다고 지적한다. 이에 대해 독일 고급지 프랑크푸르크 알게마이네 차이퉁(FAZ) 카르스텐 크로프 발행인은 자신의 칼럼에서 “AI 알고리즘은 우리를 거꾸로 이해한다”고 표현했다. 즉 알고리즘은 왜 인간이 어떤 정보를 믿는지 충분히 이해한 뒤 작동하는 것이 아니라, 어떤 자극에 반응하는지를 학습해 그 반응을 예측하고 활용한다는 지적이다. 그는 또 “주체성 없는 객관성은 추상적 구성”이라면서 “누가 정보를 선택하고, 어떤 알고리즘이 노출을 결정하며, 오류가 발생했을 때 누가 정정하고 책임지는지를 물어야 한다”고 강조했다. 따라서 유럽에서 민주주의를 지키는 일은 군사·사이버 방어만으로 완성되지 않고, 시민이 사실과 조작을 구별하고, 출처를 검증하며, 감정적 선동에 반응하지 않는 인간 역량을 강조하고 있다.

중국은 인간을 닮은 대화형 AI에 중독과 심리적 위험을 다루는 규제 논의를 진행해 왔다. 카네기국제평화재단이 2026년 분석한 중국의 관련 규제 초안도 “감정적 상호작용을 제공하는 AI가 초래할 수 있는 위험”을 다루고 있다. AI는 외로운 사람에게 대화 상대가 되고, 고민을 들어주며, 개인 감정을 분석하고 위로를 제공한다. 이는 유용할 수 있다. 문제는 ‘AI가 공감하는 듯 반응한다’고 해서 인간을 이해하는 것이 아니기 때문이다. 또 AI 이용자의 감정에 맞춘 답변이 반드시 옳거나 건강한 것도 아니고, 많이 활용할수록 AI 이용자는 자신의 감정을 스스로 이해하고 타인과 갈등을 조정하는 노력을 줄일 수 있다. 즉 인간 본연의 생각의 힘 및 영성의 힘이 사라지는 위험을 말한다. 물론 이는 중국 같은 통제 사회에 어울릴 수도 있다.

서로 다른 3대륙 강대국에서 나타나는 AI 문제점은 하나의 철학적 질문으로 모아지고 있다. 즉 AI가 인간의 지식과 판단을 넘어 정보 환경과 정서 관계까지 좌우하게 되면 인간의 존재는 무엇인가?

NZZ·FAZ·NYT·WSJ·르몽드 등 고급지들이 AI 관련 보도를 분석하면서 기술 낙관론이나 공포론의 이분법적 접근을 넘어서고 있다. AI의 본질적인 문제점은 누가 더 강력한 모델을 만드느냐를 넘어, 누가 기술을 통제하고, 그 위험을 누가 부담하며, 인간의 최종 판단을 어떻게 지켜낼 것인가다. 이 같은 문제를 어떻게 극복할 수 있는가?

먼저 민주주의와 인간의 판단력을 지키기 위해 판단의 레버리지 ‘고급 저널리즘의 역할’을 강조하고 있다. 진실을 추구하고, 권력을 비판하고, 공정성을 실현하기 때문이다. AI로 인해 페이커 뉴스가 난무하는 시기에 고급 저널리즘은 신르네상스를 맞고 있다. 미국 뉴욕타임스 온라인 유료구독자가 1500만명에 이를 정도다. 지난해 ‘오마하의 현인’ 워런 버핏 회장은 버그셔 해서웨이 CEO에서 은퇴하면서 애플 주식을 팔고 뉴욕타임스 주식을 사 많은 수익을 올렸다. 뉴욕타임스 A.G. 설즈버거 발행인은 자사 기고를 통해 “신문 역할은 진실을 추구하고 사람들이 세상을 이해하도록 돕고, 권력자에게 책임을 묻는데 있다”면서 “두려워하지도 잘 보이려하지도 말고 불편부당하게 뉴스를 전한다는 원칙 아래 공정성, 정확성, 독립성을 확고히 지키는 역할을 수행할 것”을 강조했다. 또 그는 “언론사가 막대한 비용을 들여 생산한 저널리즘을 거대 AI 기술기업들이 전례 없는 규모로 무단 도용하고 재가공한다”고 비판했다. 실제 뉴욕타임스는 빅테크 기업들과 저작권 소송을 진행 중이다. 그는 또 “(트럼프를 포함해) 공직자들이 정직하게 행동하도록 견제한다”면서 민주주의 보류 ‘저널리즘의 권력 비판기능’을 강조한 것이다. 고급 저널리즘이 신뢰할만한 뉴스와 정보를 제공하니 AI 시대 오히려 유료 독자가 늘고 있다.

미국 빅테크의 위험과 통제 문제, 유럽의 하이브리드 전쟁, 중국에서 AI에 대한 정서적 외주화 모두 AI로 인해 인간 판단이 약화될 수 있다는 공통점을 지적한다. 기술 통제권, 감정과 인간 관계 외주화, 사실 판별 능력 등 3 문제의 공통 해법으로 기술의 지능이 아닌 사회의 지혜를 강조한다. 대표적으로 인간의 ‘AI 리터러시’(문해력)를 말한다. AI 리터러시는 4차원으로 즉 AI 이해, AI 활용, AI 검증 능력, 그리고 AI 윤리적 판단 능력과 더불어 최종 결정에 책임지는 능력을 말한다. 당연히 AI 이해와 활용 능력이 중요하다. 첨단민군산업협회 정종택 회장(카네비모빌리티 대표)은 “AI를 적극 도입해 회사 효율성을 높이고 있다”면서 “나 개인도 AI의 많은 자료와 조언을 참조한다”고 말했다. 독일 FAZ는 AI 역량에서 AI 활용 능력과 결과를 비판적으로 평가할 수 있는 능력을 구별하고 있다. 즉 AI를 잘 사용하는 사람과 AI의 결과를 제대로 판단하는 사람은 반드시 같지 않다는 지적이다. AI 활용이 일상화될수록 이 차이는 더욱 중요해진다. 프란치스코회 관구장을 지낸 티토 윤종일 신부는 “AI시대 철학자 칸트가 말한 판단력인 내 마음의 도덕률인 영성이 중요하다”고 강조한다. 도덕률이 있는 인간은 자신이 돈과 권력에 지배당하지 않은 ‘성숙함’이자 AI 시대 민주주의와 경쟁력의 최고 덕목이기 때문이다. 또 문·사·철(文史哲)이 중요해지는 이유이기도 하다.


김택환
숲칼럼니스트·국가비전전략가·미래전환정책연구원 원장으로 문명을 공부하고 있다. 독일 본(Bonn)대학교에서 박사 학위를 받았으며, 미국 조지타운대에서 방문학자를 지냈다. 중앙일보 기자, 대학 교수를 거쳤다. <넥스트 포레스트- 신산림국부론> 등 20권 이상을 저술한 작가이자 국회·삼성전자 등에서 400회 이상 특강을 했다.