[김창익 칼럼] 데카르트와 AI, 그리고 네이버

- AI는 초기 알고리즘을 토대로 이용자의 패턴을 학습하는 생각하는 존재

- AI가 개입한 네이버 뉴스편집에 대한 책임은 누구에게 있는가

 

AI(인공지능)가 데카르트에게 물었다. “나는 생각한다. 고로 존재하는가?” 데카르트가 답했다. “생각한다면 의심의 여지없이 존재한다.”

구글은 지난 8~10일(현지시간) 미국 샌프란시스코 마운틴뷰 본사에서 열린 연례 개발자회의에서 미장원 예약을 하는 AI를 소개했다. 예상치 못한 상황에 “음···”하고 생각하는 반응을 할 정도로 자연스러워 종업원이 예약자가 AI인지 알아채지 못했을 정도다.

AI의 진화가 이처럼 가속화하고 있는 21세기에 16세기 철학자 데카르트를 언급한 것은 그가 첨단과학의 급격한 발전 과정에 수반되는 여러 문제들을 푸는 데 근본적인 실마리를 제공하기 때문이다.

위에 서술한 가상의 대화에서 키워드는 ‘생각(논리적 추론)’과 ‘존재(생각의 주체)’다.

데카르트는 세상만물을 의심이란 필터에 통과시켰을 때 걸러지고 남은 단 하나의 진실을 의심하는 사실 자체와 의심하는 주체, 즉 영혼의 존재로 보았다. ‘생각한다. 고로 존재한다’라는 말로 정리된 데카르트의 제1 원리다.

데카르트는 의심하는 나의 영혼만을 주체로 간주하고 동물과 자연 등 세상에 존재하는 나머지 모든 것을 일체의 의도나 자의가 없는 객체의 범주에 밀어넣었다. 

이 같은 이분법적 세계관은 자연과학의 발전을 촉진했다. 자신의 몸도 '생각하는 나'와는 다른 객체로 보는 데카르트의 시각은 의학을 포함한 생리학 발전의 토대이기도 하다. 주체로서의 영혼과 객체로서의 몸을 분리함으로써 해부학이 가능토록 한 것이다. 인간과 대화하는 AI 발전이 뇌과학 등의 생리학에서 출발했다는 점에서 데카르트의 공로를 부인할 수 없다. 

데카르트는 자(自)와 타(他), 즉 주체와 대상으로 세상만물을 양분해놓고 두 발을 제1 원리에 디딘 채 논리적 추론을 통해 지식을 확장하는 영혼의 모험을 떠났다. 제1 원리에서 연역을 통해 진리의 범위를 가지치기하는 과정이 데카르트가 말한 생각이며 이는 내용상 학습과 동의어다.

구체적인 초기 지시어, 즉 알고리즘을 토대로 데이터들의 세상에서 특정 해답을 찾는 AI의 학습(Learning) 과정은 제1 원리에서 출발해 연역적으로 진리를 찾는 인간의 생각과 방식이 같다. 이에 동의한다면 학습능력이 있는 AI는 생각하는 나, 즉 주체로 승격된다.

여기서부터 자율주행차나 알고리즘 언론 등 AI 기반의 산업에서 책임과 관련된 논의들이 전혀 다른 방향으로 전개될 수 있다.

드루킹 댓글조작 사건으로 불거진 비판에 대응해 네이버가 지난 9일 내놓은 뉴스 편집 개편안을 예로 들어보자.

한성숙 대표가 직접 나선 당시 발표에서 주목할 점은 이용자가 원하는 뉴스를 편집해주는 뉴스피드판이다. 네이버는 에어스란 이름의 AI에게 뉴스 편집을 맡겨 특정 의도나 경향이 서비스에 개입할 여지를 차단하겠다고 했다. 다음도 뉴스 편집 개편에 대한 요구가 높아지자 자사는 2015년부터 일찌감치 루빅스로 명명된 AI가 뉴스 편집을 담당하고 있어 조작의 여지가 없다는 입장을 지난 10일 내놓았다.

이에 대한 반론은 주로 AI에 초기 알고리즘을 입력하는 주체가 결국 네이버와 다음의 뉴스 편집 책임자란 점에 집중된다. 결국 플랫폼 서비스 업체의 의도가 개입할 여지를 근본적으로 차단할 수는 없다는 것이다. 김승주 고려대 정보보호대학원 교수는 이에 대해 “알고리즘도 사람이 만드는 것이기 때문에 편향될 수 있다”고 지적했다. 그래서 알고리즘 관련 정보공개의 중요성이 강조된다.

데카르트는 생각하는 영혼을 제외한 객체들은 일체의 의도나 경향이 없는 일종의 기계들로 간주했다. 살인을 한 로봇이나 지시어를 단순 반복적으로 수행하는 해킹 컴퓨터는 책임이 없다는 논리는 데카르트의 관점과 일치한다. 모든 책임은 의도나 경향을 가질 수 있는 '생각하는 주체', 즉 초기 알고리즘을 입력한 엔지니어에게 귀속된다는 것이다.

진화된 AI는 초기 알고리즘은 물론 누적되는 이용자들의 패턴을 학습해 이후 제공되는 서비스에 특정한 경향을 만든다. 데카르트가 말한 기계적 작업의 수행이 아니라 뉴스 편집에 AI가 직접 개입하는 것으로 간주할 수 있다는 것이다. 네이버의 에어스나 다음의 루빅스가 이 단계인지는 기술적 검증이 필요하다. 하지만 가까운 시일 내에 이 단계에 진입할 수 있다는 것은 분명하다. 

이 경우 뉴스 편집에 대한 책임을 100% 네이버와 다음의 뉴스 편집 책임자에게 지울지, 에어스와 루빅스에게 분담할지의 문제는 철학은 물론 과학과 사법 시스템이 공동으로 풀어야 할 과제다.

물론 사회 시스템이 문명의 발전을 따라가지 못하는 아노미 기간 동안 AI가 개입한 뉴스 편집의 책임도 여전히 100% 플랫폼 사업자에게 돌아갈 가능성이 크다. AI가 스스로 어떤 의도나 경향을 갖느냐의 여부와 상관없이 플랫폼 사업자는 초기 알고리즘 입력자로서 AI의 소유주로서 뉴스 편집의 책임을 져야 한다는 의미다. 훈련된 맹견의 살인에 대한 책임이 전적으로 견주에게 있는 것처럼, 현대 사법제도는 여전히 인간만을 목적 있는 행위의 주체로 간주하기 때문이다. 20세기 초 수학문제를 풀어 세상을 놀라게 한 똑똑한 말 한스가 동물 또한 인간의 미세한 움직임에도 반응하는 생각하는 존재임을 입증한 지 100년이 더 지난 후에도 말이다.

순다르 피차이 구글 최고경영자(CEO)가 이번 연례 개발자 회의에서 책임을 화두로 제시한 것은 이 같은 현실과 무관하지 않다. 기술이 인류의 생활에 점점 깊이 관여하면서 책임 소재 문제가 점점 복잡다단해지고 있는 것이다. 데카르트는 현대과학 발전의 토대이자, 넘어야 할 벽인 셈이다.