[최요한의 티키타카] AI의 뻔뻔한 거짓말, 그리고 사람

'잔치는 끝났다' 그러나...

[최요한 시사평론가]

 
저는 거의 1년 365일 뉴스를 봅니다. 뉴스를 이렇게 미친 듯 보는 이유는 매일 기자들이 전화하기 때문입니다. 적어도 하루에 서너 통의 전화가 오는데, 기사 말미에 전문가 의견으로 한 두 줄 나오는 ‘첨언’ 때문입니다. 그런데, 그럼에도, 아무리 그래도, 20년 이상 평론이라는 분야에서 말과 글과 방송으로 먹고 살았는데 “몰라요~”라고 이야기하기에는 시쳇말로 “쪽팔리기” 때문입니다. 그렇게 열심히 답변해서인지 2022년 총선 하루 전에는 22건, 이번 지방 선거에는 17건의 기자 전화가 왔습니다. 당연히 총선도, 지선도 민주당 승리를 예견했지요. 다만, 서울 시장 예측은 틀렸습니다.
 
평론가와 AI 활용
 
AI가 등장하기 전에는 저는 사건이 벌어진 배경, 그리고 어떤 과정이었는가 하는 경과, 어떤 영향을 미쳤는지 하는 결과, 이에 따른 시사점 등을 시각이 대조적인 (ex: 조선일보 VS 한겨레신문) 매체를 교차분석해서 비교했습니다. 주로 통신사 뉴스(연합, 뉴시스, 뉴스1 등)를 1차로 수집하고, 이를 통해 저 스스로 이해도를 높였습니다.
 

그러다 애매한 단어나 일반인이 이해하기 어려운 용어가 나오면 그에 대해 조금 더 전문적인 사전을 찾거나, 그것으로도 해석이 안 되면 ‘비유’를 통해 설명하거나, 저 스스로 '조작적 정의'를 내립니다. 가능하면 사람들이 쉽게 이해하기 위함입니다. 오늘 아침에도 청와대와 집권 여당의 소통부재에 대해 "42.195 킬로미터 마라톤 경주에서 이재명 혼자 저만치 20킬로미터 지점을 치고 나가고 있는데, 여당이라는 민주당은 겨우 10킬로미터 뛰고 있으면서 헉헉 거리고 있다"라고 '비유'로 설명했습니다.
 
이런 식으로 방송 원고를 정리하고 진행합니다. 품도 많이 들고 신경도 많이 쓰이죠.
 
AI의 할루시네이션(Hallucination)
 
누군가는 간단하게 AI 에게 "현재의 정부여당의 불통이나 소통부재로 인한 정국 난맥상을 10분~12분짜리 방송용 원고로 만들어 줘" 하면 정말 뚝딱 만들어 낼 건데 너무 유난 떠는 거 아니냐는 이야길 하는 경우가 있습니다. 특히 뉴스 써머리 분야는 AI중 ‘퍼블리시티’라는 AI가 단연 독보적입니다. 저는 알면서 쓰지 않습니다. 바로 AI의 '할루시네이션' 때문입니다. 할루시네이션(Hallucination)은 원래 의학·심리학에서 ‘환각(환청·환시 등)’을 뜻하는 말입니다. 할루시네이션은 생성형 AI(특히 LLM)가 사실이 아닌 내용을 그럴듯하게 만들어 사실처럼 제시하는 현상을 의미합니다. 워낙 AI의 문장이 논리적이고 자연스러워서 사용자는 AI의 오류를 좀처럼 인식하기 어렵습니다. 아예 없는 논문이나 저자, 통계까지 들이대며 인용하는데, 나중에 알고 나면 정말 기가 찹니다. AI는 ‘모른다’는 말을 할 수 없기에 이런 일이 벌어진다고 합니다.
 

 

 
특히 챗GPT의 ‘세종대왕 맥프로 던짐사건’은 너무나 유명합니다. 그리고 이 사건의 충격이 너무나 크기 때문에 많은 언론에서 보도했고, AI업계에서도 더 정확한 근거를 참고하거나 답변을 한 번 더 점검하는 방식을 채택하고 있다고 합니다. 하지만 다른 접근방식을 취하는 경우도 있다고 합니다. 아예 모르면 모른다고 답변하게 한다는 것이죠. 예전에는 사용자의 질문에 반드시 답변해야 한다는 강박(?)이 있어서인지, 가짜 답변을 만들어 냈지만, ‘세종대왕 맥프로 던짐사건’ 이후에는 구글의 '어스파이어(ASPIRE)' 같은 기술로 AI.의 답변에 신뢰도 점수를 함께 제공한다든지 정보가 부족할 경우 "해당 정보는 학습되지 않았습니다." 또는 "정확한 내용을 알 수 없습니다."라고 대답하도록 설계가 개선되었습니다. 물론 여전히 일부 전문가들은 ‘거짓말(환각)’의 잔재가 남아 있다고 경고하는 것을 잊지 않고 있습니다.
 
그렇다면 인간은?
 
기자들도 엉성한 취재로 가짜뉴스를 만들어 내는 판에, 자신의 존재감을 놓치지 않기 위해 그럴듯하게 거짓말을 만들어내는 AI의 거짓말, 환각, 할루시네이션을 인간이 이길 수 있는 길은 노력을 다한 인간의 꼼꼼함 밖에 없다는 생각을 합니다. 저는 AI가 등장한 후 검수용으로 사용합니다. 품을 팔아 만든 방송원고와 AI가 답한 것을 비교해서 한 번 더 정리하는 것이죠.
 
그러다 문득 이런 의문이 들었습니다. ‘그렇다면 인간은...?’
 
지난 몇 년 간, 마음이 힘든 국민들에게 흔들림 없이 상황을 명확하게 분석하고 전망해서 심리적인 안정감과 위로를 준다고 하여 ‘신경안정제’라는 별명이 붙은 평론가가 있습니다. 절대로 ‘모른다’라는 말을 하지 않고, 심지어 2004년 11월 3일, 중앙대학교에서 진행한 대학 특강에서는 "30~40대에 훌륭한 인격체이었더라도 20년이 지나면 뇌세포가 변해 전혀 다른 인격체가 된다."며, "60세가 넘으면 뇌가 썩기 시작한다(또는 뇌세포가 죽는다)"는 취지의 발언까지 했습니다. 1959년생인 그는 이미 66세입니다. 그의 말에 따르면 뇌가 썩은 지 벌써 6년이 지났습니다. 그런 그가 다시 발기(發起)를 시작한 모양입니다.
 
제가 엄청나게 존경하는 스승님 중에 多夕 류영모 선생님이 있습니다. 아주경제에서 ‘얼나의 성자 다석 류영모’ 시리즈를 2019년 11월부터 2021년 3월까지 총 3개년에 걸쳐 100회 이상 연재했기 때문에 다석 선생님의 이름이 조금이라도 더 대중에게 알려진 것 같아 매우 기쁩니다. 그래서 저는 아주경제를 사랑(?)까지 합니다. 우리에게 이런 위대한 사상가가 있었는지조차 몰랐던 부끄러운 과거의 역사를 저는 감히 ‘치욕의 역사’라고 부를 정도인데 아주경제를 어찌 사랑하지 않을 수 있겠습니까?
 
그런데, 이 위대한 사상가 多夕 선생님도 말년에는 치매를 겪었습니다. 더뷰스의 이상국 선생은 이렇게 정리했습니다.
 
“류영모의 말년(末年)은 치매를 겪었다. 그 또한 '육신'이 지닌 무기력과 비극을 피할 수 없었다. 이것이 인간이다. 예수도 넝마가 된 몸을 십자가 위에 전시할 수밖에 없었다. 그러나, 육신과 영별한 그 순간, 그는 '얼나'로 솟나 하늘로 귀일(歸一)했다.” (출처 : https://zrr.kr/8kUGfy)
 
저는 한 때 우리 국민들에게 ‘신경안정제’로 안정감을 준 평론가께서 얼나로 솟나 하늘로 귀일하는 것까지는 바라지도 않습니다. 스스로 사람의 뇌가 썩는 나이까지 일갈하는 용기까지 가진 적이 있다면, 이제는 AI의 할루시네이션 같은, ‘사람 판 할루시네이션’ 역할을 그만 두기를 간곡하게 부탁합니다. AI의 할루시네이션은 결국 강제로 조정 당했고, 조정 당하고 있고, 앞으로도 조정 당할 것입니다. ‘사람 판 할루시네이션’이라고 조정당하지 않을 것이라고는 아무도 장담하지 못할 겁니다. 후배 평론가의 정직한 충고입니다.
  
필자 주요이력

- 前 정치컨설턴트
- 前 중앙선거관리위원회 제1회 선거아카데미 교수
- 現 정치평론가
- 現 경제민주화 네트워크 자문위원
- 現 최요한콘텐츠제작소 소장
 
저서 : 유권자를 사로잡는 현장정치 오마이선거 오마이전략(매일컴 刊, 2014)