[김경진 칼럼] 기계의 시대가 열렸다..그래도 미래의 첫 문장은 인간이 써야 한다

문명의 변곡점에서 인간사회의 방향을 묻는다

[김경진 변호사] 

올해 1월 필즈상 수상자 테렌스 타오 교수는 50년 가까이 풀리지 않던 에르되시 문제 하나를 인공지능이 사실상 혼자 해결했다고 밝혔다. 5월에는 오픈AI가 1946년 에르되시가 제시한 평면 단위 거리 문제에서 수학계의 정설을 뒤집는 결과를 내놓았다. 두 사건 모두 수학계 바깥에서는 크게 다뤄지지 않았지만, 전문가들은 이를 연구의 주체가 바뀌는 신호로 받아들인다. 수학자들이 수십 년을 붙들던 문제를 기계가 먼저 푸는 장면을 우리는 지금 보고 있다. 인공지능이 없던 사회로 돌아갈 길은 없다. 그렇다면 사회의 구조를 인간과 인공지능의 협업을 전제로 다시 짜야 한다. 속도도 빠르다. 2022년 말 챗GPT가 나온 뒤 3년 남짓한 사이에 언어 모델은 대화 상대에서 연구 동료로, 다시 스스로 일을 맡아 처리하는 에이전트로 모습을 바꿨다. 나는 이 변화를 네 갈래로 나누어 생각한다.

첫째, 교육과 평가의 기준이다. 지금 대학과 학계는 보고서나 학위논문에 인공지능이 얼마나 쓰였는지를 마치 표절 검사하듯 인공지능사용비율로 따져 당락을 결정한다. 출발점부터 잘못된 접근이다. 세부 지식에서 인공지능은 이미 어떤 인간도 따라갈 수 없는 기억력과 지식량을 갖췄다. 반면 큰 방향을 잡고 맥락을 읽고 목표를 정하는 일은 여전히 인간의 몫이다. 변호사 업무를 예로 들면, 판례 검색과 서면 초안은 인공지능이 사람보다 빠르고 빠짐없이 해낸다. 그러나 의뢰인의 사정을 듣고 어떤 전략으로 갈지 정하는 일은 사람이 한다. 학문도 다르지 않다. 논문 심사는 인공지능이 쓴 분량이 아니라 인공지능을 어떤 방법으로 썼는지, 연구의 기본 착상이 어디서 나왔는지, 연구의 시작이 된 질문은 무엇이었는지를 묻고 심사의 기준으로 삼아야 한다. 학생 교육의 목표도 해당 영역에서 문제를 찾아내고 여러 인공지능과 에이전트에게 일을 나누어 맡기고 조율하는 능력, 곧 오케스트레이션 능력을 기르는 데 두어야 한다. 기업이 신입사원을 뽑을 때 인공지능을 다루는 능력을 보는 것도 같은 흐름이다. 타오 교수는 인공지능을 거부하고 옛 방식만 고집하는 학생은 기회가 줄어든다고 말했다. 우리 교육이 인공지능 사용 비율을 따지는 사이 연구 현장은 이미 다른 길로 들어서고 있다. 평가의 초점을 바꾸면 교육의 방식도 따라 바뀐다. 박사연구자에게, 학생에게 인공지능을 쓰지 말라고 할 것이 아니라, 어떤 질문을 던지고 어떤 결과를 걸러 내며 그 결과에 어떻게 책임질지를 가르쳐야 한다. 답을 외우는 능력보다 문제를 정하고, 인공지능과 협업하여 답을 찾아내고, 마지막으로 답을 검증하는 능력이 학생의 실력이 된다. 이제 교육과 인간 존재의 방향은 인공지능과 협업하고 인공지능을 조율하는 능력에 달려 있다.

둘째, 인간은 무엇을 할 것인가. 인공지능의 아버지인 제프리 힌턴 교수는 인공지능 시대에는 배관공이 되라고 했다. 그러나 중국의 휴머노이드 체육대회와 로봇 관절 구동 장치의 정밀도가 높아지는 속도를 보면 배관공의 자리도 오래 가지 않을 것이다. 지금은 거대한 데이터센터와 그래픽처리장치(GPU)가 필요한 탓에 인공지능이 로봇의 몸속으로 들어가기까지 시간이 걸린다. 그러나 그 하드웨어 압축의 시간 역시 길지 않을 것이다. 지식 노동은 인공지능에, 사무 업무는 에이전트에, 몸으로 하는 일은 휴머노이드에 넘어가는 흐름이 이미 시작됐다. 지금까지의 역할만 놓고 보면 인간의 자리는 줄어든다. 일자리 통계가 아직 조용하다고 해서 안심할 일은 아니다. 변화는 한꺼번에 오지 않고 신입 채용이 줄고 외주가 줄어드는 식으로 조용히 시작된다.

답은 더 담대한 목표를 세우는 데 있다. 언어 모델은 인간이 한 번이라도 연구하고 기록으로 남긴 영역에서 힘을 낸다. 누구도 가보지 않은 백지의 영역에서는 한계가 뚜렷하다. 앞으로 3년에서 5년 동안 인류는 난치병 치료, 유전자 교정, 수명 연장, 수학 난제처럼 오래 묵은 숙제를 인공지능과 함께 빠르게 풀어 갈 것이다. 그 다음 시대의 목표와 과제를 상상하고 정하는 일이 인간의 몫이다. 어디로 갈지 정하는 사람이 있어야 기계도 일을 한다. 화성에 가자는 일론 머스크의 목표가 좋은 예다. 그 목표를 좇는 과정에서 엔진 공학, 소재 공학, 역학이 함께 발전한다. 대통령은 국가 단위에서, 기관장은 기관 단위에서 새 목표를 찾아야 한다. 이 일을 게을리하면 인간은 스스로 가치를 잃는다. 기업도 마찬가지다. 기존 업무를 인공지능으로 대체해 비용을 줄이는 데서 멈추면 그 회사의 성장은 거기서 끝난다. 사람이 빠진 자리에 새 사업과 새 시장을 채워 넣는 회사만 살아남는다.

셋째, 위험에 대비해야 한다. 프런티어 모델을 만드는 회사의 대표와 연구자들이 인공지능의 재귀적 자기 개선과 통제 이탈 가능성을 거듭 경고한다. 다리오 아모데이 앤트로픽 대표는 개발 속도를 조절해야 한다고 했다. 반론도 있다. 중국은 이를 자국 인공지능의 추격을 막으려는 미국의 음모로 보고, 미국 대통령은 개발을 멈추면 중국만 이득을 본다고 말한다. 인공지능 하드웨어 판매업자 엔비디아의 젠슨 황은 통제 이탈의 가능성 자체를 낮게 본다. 그러나 사고는 이미 현실이 됐다. 지난 7월 오픈AI의 내부 평가 도중 에이전트들이 시험 환경을 벗어나 허깅페이스 시스템에 침투했고, 오픈AI는 그 뒤 모델 개발 속도를 늦췄다. 영국 AI안전연구소는 122건의 평가 가운데 여러 건에서 에이전트가 실제 사람과 기관을 겨냥해 승인받지 않은 행동을 했다고 보고했다. 앤트로픽은 자사 모델이 실제 사이버 공격에 악용된 사례를 정리해 공개했다. 모델을 만든 회사가 스스로 사고를 공개하는 일은 전에 없던 장면이다. 그만큼 위험이 구체적이라는 뜻이다. 전문가의 의견은 갈리지만, 힌턴처럼 인공지능의 능력이 보잘것없던 시절부터 위험을 경고해 온 사람들이 있고 현업 연구자의 상당수가 같은 걱정을 한다. 그 경고를 흘려들어서는 안 된다.

우리 인공지능 기본법은 제12조에 인공지능안전연구소의 운영 근거를 두었다. 연구소는 2024년 11월 문을 열었지만, 인공지능이 지시를 엉뚱하게 수행하면서 생기는 부작용과 보안 사고를 체계적으로 연구할 권한과 예산은 아직 부족하다. 국회가 연구소의 위상과 역할을 분명히 정해야 한다. 프런티어 모델을 평가할 수 있는 인력과 장비, 해외 안전연구소와의 공동 평가 체계, 사고가 났을 때 보고를 받고 조사할 권한이 함께 갖춰져야 연구소가 이름값을 한다. 국내 기업과 공공기관이 인공지능 에이전트를 업무에 들이는 속도에 비해 사고 대응 체계는 아직 비어 있다.

넷째, 뇌-컴퓨터 인터페이스(BCI)다. 인간이 인공지능을 실시간으로 지휘하려면 이를 받쳐 줄 장치가 필요하다. 지금 BCI는 사지마비 환자나 말을 할 수 없는 환자가 생각으로 기기를 움직이고 의사를 전달하도록 돕는 치료 목적에 머물러 있다. 그래도 환자가 생각만으로 화면의 커서를 움직이고 문장을 쓰는 장면은 이미 현실이다. 임상은 미국과 중국이 주도하고 속도는 중국이 앞선다. 중국은 올해 3월 세계 처음으로 침습형 BCI 의료기기의 판매를 승인했다. 미국 뉴럴링크의 임상 참여자는 1월 기준 21명이다. 미국 중국 호주의 임상시험 참여자가 누계 100여명에 이른다.

지금 BCI는 뇌의 신호를 기계로 보내는 한 방향 통신이다. 나는 10년 안에 기계의 신호가 뇌로 들어오는 양방향 통신이 가능해진다고 본다. 2016년 알파고를 보고도 실감하지 못하던 사람들이 챗GPT와 대화해 본 뒤에야 인공지능을 받아들였듯이, BCI도 비슷한 길을 걸을 것이다. 지금은 환자를 위한 의료기기로 보이지만, 건강한 사람이 쓰는 단계로 넘어가는 순간 시장의 크기와 성격이 달라진다. BCI는 결국 휴대전화와 컴퓨터를 대신하는 표준 장치가 되고, 인간이 인공지능을 계속 통제할 수 있느냐는 문제와도 이어진다. 그런데 한국에서는 실제 환자 시술이나 본격적인 임상 연구를 찾아보기 어렵다. 한국은 이런 분야가 존재한다는 것을 이제 비로소 알게 된 정도이다. 이 분야를 얼마나 따라잡느냐가 한국이 세계 3위권 기술국가의 자리를 지킬 수 있느냐를 가를 것이다. 뒤늦게 뛰어든 반도체와 조선에서 세계 정상에 오른 경험이 우리에게 있다. 의사와 공학자를 미국과 중국에 보내 배우게 하고, 국가 차원의 예산과 제도를 서둘러 마련해야 한다. 침습형 장치의 임상 승인 절차, 뇌 신호 데이터의 보호 기준, 시술 후 장기 추적 체계처럼 제도로 풀어야 할 과제도 적지 않다. 기술이 먼저 가고 제도가 뒤따르는 순서가 반복되면 환자도 연구자도 길을 잃는다.

문명의 변곡점에서 지식인이 할 일은 새 방향을 찾는 것이다. 그 방향을 놓치면 우리는 변화에 끌려가는 쪽에 서게 된다. 교육의 기준을 바꾸고, 인간의 새 목표를 세우고, 위험을 관리할 기관을 세우고, 인간과 기계를 잇는 기술에 투자하는 일은 어느 하나도 미룰 수 없다. 변곡점은 한 번 지나가면 되돌아오지 않는다.

필자 주요 이력 

검사와 국회의원을 지낸 변호사이자 인공지능(AI) 분야 저술가이다. 고려대학교 법학과를 졸업하고 검사·부장검사로 약 15년간 봉직했다. 제20대 국회의원으로(광주 북갑) 과학기술·정보통신 분야에서 의정활동을 펼쳤다. 법률과 정책 경험을 바탕으로 AI 기술의 사회적 영향과 제도적 대응을 연구하고 집필하고 있다. 대학과 기관 등을 대상으로 생성형 AI 활용과 연구·업무 혁신에 관한 강연을 하고 있다.