2040년 3차 세계대전 발발?… AI가 가져올 다섯가지 디스토피아

[사진=바이두]

인공지능(AI) 기술이 빠르게 발전하면서 윤리적 문제가 지속적으로 제기된다.

AI가 군사 무기나 국민 감시 등으로 활용될 경우 인류에 심각한 위기를 초래할 수 있기 때문이다. 이러한 우려가 나오자 최근 수천 명의 AI 전문가들은 자율살상무기 개발에 참여하지 않겠다고 선언하기도 했다.

미국 방송 CNBC는 전쟁, 감시, 차별 등 AI가 가져올 다섯 가지 부정적 시나리오를 소개했다.

◆ 대량 실업

전문가들은 AI 자동화로 인간 노동의 필요성이 줄면서 대규모 실업이 발생할 가능성이 높은 것으로 보고 있다.

앨런 번디 에딘버러대 정보과학과 교수는 "실직이 가장 큰 걱정이다"고 강조했다. 이어 "인간은 좁은 법위의 앱 모음을 조직하고 누구도 다룰 수 없는 최후의 경우를 발견해야 한다"면서 "하지만 이것이 오랜 기간 이어질 것으로 예상되는 대량 실업을 대체할 수 없을 것이다"고 지적했다.

반면 AI 지지자들은 이 기술이 새로운 일자리를 창출할 것이라고 기대하고 있다. 신기술 개발을 위해 능력 있는 기술자의 가치가 높아질 것이란 이유에서다.

리서치 기업 가트너는 AI가 오는 2020년까지 230만개 일자리를 창출하고 180만개 일자리를 없앨 것이라고 예측했다.

◆ 전쟁

일명 '살인 로봇' 등장, AI 군사 무기 개발이 전쟁으로 이어질 것이란 우려도 나온다. 엘론 머스크 테슬라 회장은 지난해 "AI 기술이 3차 세계대전의 원인이 될 수 있다"고 경고한 바 있다.
 

영화 '터미네이터'에 나오는 인공지능 살인 로봇.[사진]

실제 일부 분석가와 시민단체들은 AI가 적용된 자율살상무기 개발과 군사 의사결정이 윤리적 딜레마를 만들고, AI 주도 전쟁 가능성을 열어준다고 꼬집었다.

프랑크 반 하멜렌(Frank van Harmelen) 암스테르담자유대학 인공지능학과 교수는 "내가 진정으로 '무섭다'는 단어를 생각하는 유일한 분야는 자동무기 시스템이다"면서 "AI와 같은 컴퓨터 시스템이 삶와 죽음의 문제를 선택하는 것은 진정 무서운 생각이다"고 지적했다.

올해 초 미국 국방 싱크탱크인 랜드연구소는 AI의 군사무기 활용이 오는 2040년 핵전쟁을 일으킬 수 있다고 경고했다.

◆ 로봇 의사

전문가들은 AI가 병을 일찍 진단하고 전반적인 의료 경험을 가속화하는 등 의학계 종사자들에게 제공하는 혜택에 대해 동의한다. 다만 일부 의사와 학계에서는 데이터 주도의 의료 행위로 빠르게 나아가는 것을 경계하고 있다.

특히 학계에서 가장 우려하는 점은 사람들이 AI에 너무 많은 기대를 한다는 것이다. AI가 인간이 넓은 범위의 일을 해결하기 위해 갖춘 일반적인 지능을 형성할 수 있다는 것이다.

번디 교수는 "AI에 대한 과도한 기대감이 의료산업에서 잠재적으로 무서운 결과를 초래할 수 있다"고 말했다.

실제로 건강 전문 매체인 스탯이 인용한 IBM 내부 문서를 보면 왓슨 슈퍼컴퓨터가 '안전하지 못하고 잘못된' 암 치료 권고안을 제출한 것으로 드러났다.

◆ 감시

전문가들은 AI가 대중을 감시하는 데 활용될 수 있다고 우려한다.

이미 중국에서는 이러한 우려가 현실이 된 상황이다. 중국 지방정부들은 얼굴 인식과 AI를 사용해 범죄를 단속하고 있다. 뉴욕타임스에 따르면 중국에는 현재 2억개의 감시카메라가 설치돼 있다.

또 중국은 사회 신용 시스템이 전세계에서 유일하게 구축한 나라다. 이를 통해 시민의 활동을 추적해 점수를 매기고 비행기 탑승을 금지하는 등 통제하고 있다.
 

중국 경찰이 도입한 안면인식 안경[사진=연합뉴스 제공]

◆ 차별

마이크로소프트(MS)는 2년 전 AI 챗봇인 테이(Tay)를 선보였다. 이 챗봇은 소셜미디어(SNS) 트위터에 독일 나치 아돌프 히틀러와 백인 우월주의를 지지하는 공격적인 글을 올리며 문제를 일으켰다.

테이는 온라인에서 사람들과 상호 작용해 모방하도록 설계됐다. 이로 인해 AI가 편견을 가질 가능성에 대한 논쟁이 불거졌다. 결국 테이는 16시간 만에 운영이 중단됐다.