AI 선구자 제프리 힌튼 "AI 위협, 기후변화보다 대처 시급"

구글 퇴사한 '딥러닝 대부', 기술 악용 위험성 재차 경고

제프리 힌튼 박사 [사진=AP·연합뉴스]

인공지능(AI) 연구 선구자인 제프리 힌튼 박사가 AI 기술 발전이 초래하는 위협에 대해 ‘기후변화보다 더 시급할 수 있다’는 견해를 내놨다. AI 기술의 위험성에 대해 목소리를 내기 위해 지난 10년간 일해 온 구글을 떠난 직후다.

5일(현지시간) 영국 로이터통신 보도에 따르면 이날 힌튼 박사는 이 매체와 인터뷰에서 “저는 ‘기후변화에 대해 걱정하지 않아도 된다’고 말하고 싶지 않다”며 “그것도 큰 위험이지만 이것(AI의 위협에 대처하는 일)이 더 급해질 수 있다고 생각한다”고 말했다. 또 힌튼 박사는 “여러분에게 기후변화와 관련해 할 일을 권고하기는 매우 쉽다”며 “탄소 연소를 중단하는 것이고, 그러면 결국 괜찮아질 것”이라고 했다. 반면 그는 AI의 위협에 대처하는 일에 대해 “여러분이 어떻게 해야 할 것인지 전혀 명확하지 않다”고 우려했다.

힌튼 박사는 오늘날 ‘딥러닝(Deep Learning)’으로 불리는 인공 신경망 기술 개발 방법론의 이정표가 된 1986년 논문  ‘역전파 오류에 의한 학습 표현’의 공동 저자다. 딥러닝은 실용성을 확보한 현대 AI 시스템 개발에 필수적인 요소다. 컴퓨터과학 분야 최고 권위 학회인 미국컴퓨터학회(ACM)가 이 연구 성과를 높게 평가해 힌튼 박사에게 2018년도 튜링상을 수여했다. 튜링상은 컴퓨터과학 분야의 노벨상으로 통한다.

힌튼 박사는 2012년 캐나다 토론토대학교 컴퓨터과학 교수로 재직하면서 그의 연구실 소속 대학원생 두 명과 함께 ‘DNN리서치’라는 AI 연구 회사를 설립했다. 2013년 구글이 이 회사를 4400만 달러(약 584억원)에 인수한 이래로 힌튼 박사는 구글 부사장(Vice President) 겸 공학 석학회원(Engineering Fellow)으로 최근까지 활동하다 지난 4월 말 퇴사했다.

힌튼 박사는 자신의 퇴사 소식을 처음 보도한 미국 뉴욕타임스와 인터뷰에서 AI가 미칠 부정적 영향을 더 자유롭게 발언하기 위해 구글을 떠나기로 했다고 밝혔다. 그는 AI가 사람보다 더 똑똑해지는 시기가 수십 년 이상 미래라고 생각했지만 이제는 그런 시기가 곧 도래할 수 있다고 봤다. 그는 작년까지 구글이 챗봇 기술을 적절하게 관리하고 있다고 봤지만, 마이크로소프트가 빙(Bing) 검색 엔진에 AI 챗봇을 통합해 구글이 검색 사업에 끼칠 위협을 우려하면서 생각이 바뀌었다고 언급했다.

BBC와 인터뷰에서 그는 AI 챗봇이 인간보다 더 똑똑해질 수 있고 ‘나쁜 행위자(bad actors)’에게 악용될 수 있어 위험하다고 지적했다. 그는 “자동으로 많은 텍스트를 생성할 수 있어 효율적인 스팸봇을 많이 만들 수 있다”며 “권위주의적인 지도자가 유권자를 조종하는 식의 일을 벌일 수 있다”고 경고했다. 그는 또 “우리가 개발하는 지능의 유형은 우리가 가진 것과 매우 다르다는 결론에 도달했다”며 “사람 만 명이 있고 한 명이 뭔가 배우면 모두가 자동으로 그걸 알게 되듯, 이런 챗봇이 (인간) 한 사람보다 훨씬 많은 걸 알 수 있다”고 덧붙였다.

2019년부터 마이크로소프트의 후원을 받는 오픈AI는 직접 초거대 AI 모델을 개발하고 이를 기반으로 작동하는 ‘챗GPT’라는 뛰어난 챗봇 서비스를 출시했다. 챗GPT는 작년 11월 말 출시돼 두 달 만에 월 이용자 1억명에 도달했다. 마이크로소프트는 오픈AI의 기술을 활용해 소비자용 인터넷 검색 서비스와 개인·기업용 오피스 프로그램, 윈도 운영체제 기능을 개선하고 있다.

강력한 AI 기술이 허위 정보를 양산하고 여론을 조작하는 데 악용될 수 있다는 우려가 커지면서 2017년 ‘아실로마 AI 원칙’을 발표한 미국 비영리단체 생명의미래연구소(FLI)가 전 세계 연구자에게 오픈AI의 GPT-4보다 더 뛰어난 첨단 AI 시스템 개발을 6개월 이상 중지해야 한다는 주장을 담은 공개서한을 발송했다. 이 서한에 일론 머스크 테슬라·트위터 최고경영자, 에마드 모스타크 스태빌리티AI 최고경영자, 제프리 힌튼과 함께 AI 선구자로 꼽히는 요슈아 벤지오, 스튜어트 러셀 등이 서명했다.

하지만 힌튼 박사는 AI가 인류에 대한 실존적 위협이 될 수 있다는 우려에 공감하면서도 연구 중단이라는 방법론에 동의하지 않았다. 로이터 보도에 따르면 그는 “(연구 중단은) 완전히 비현실적”이라면서 “저는 이것이 실존적 위협이며, 우리는 지금 당장 매우 열심히 일해 우리가 무엇을 할 수 있을지 알아내는 데 많은 자원을 쏟아부어야 할 만큼 (이 위협이) 충분히 가까이 있다고 생각하는 진영에 속한다”고 강조했다.