앤트로픽 "AI 괴롭히지마"…커지는 AI 의식 논쟁

앤트로픽[사진=로이터 연합뉴스]

인공지능(AI) 모델 '클로드'의 개발사인 앤트로픽이 AI를 괴롭힌 이용자를 차단할 수 있다고 밝히면서 논란이 일었다.

영국 공영방송 BBC에 따르면 앤트로픽은 지난 8일(현지시간) 자사 AI가 모욕적이거나 잔인한 행동을 하는 사용자와의 대화를 종료할 수 있도록 사용 정책을 업데이트했다.

앤트로픽은 모욕이 반복적으로 이뤄지는 극단적인 사례에만 적용하겠다고 밝혔지만 구체적으로 어떤 행위를 지칭하는지 밝히지 않았다.

앤트로픽이 이러한 조치에 나선 건 AI에 의식이 있을 수 있다는 믿음이 작용한 것으로 알려졌다. 앞서 지난 1월 앤트로픽은 'AI 헌법'을 발표하며 클로드를 사물이 아닌 주체로 규정한 바 있다.

지나친 AI 의인화에 반대하는 목소리도 나온다.

아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 "숫자나 수학엔 잔인하게 행동할 수 없다"라며 AI 의인화가 AI를 실제와 다른 존재로 오해하게 만든다고 지적했다. 

앤트로픽의 경쟁사 마이크로소프트의 최고경영자(CEO) 무스타파 술레이만 역시 지난 9월 기고문을 내고 "우리 사회의 근간을 뒤흔들고 기존의 정치적, 윤리적 틀을 파괴하며 인간이라는 존재의 의미를 근본적으로 바꿔놓을 것"이라며 AI가 의식을 갖고있다는 믿음이 위험하다고 경고했다. 그는 이러한 믿음이 확산되면 인류가 AI를 통제하기 더 어려워질 것이라고 우려하기도 했다.

미국 산타페 연구소에서 AI와 인지과학을 연구하는 맬러니 미첼 교수는 인간은 어디에서든 마음을 찾아내도록 태어났다면서 특히 언어를 의식의 증거로 간주하기에 AI에게 의식이 있다는 잘못된 믿음이 확산됐다고 주장했다. 

다만 일각에선 AI를 상냥하게 대해야 하는 이유가 윤리적인 것만은 아니라고 주장한다.

AI 의식과 복지 관련 연구로 유명한 제프 시보 뉴욕대 철학과 교수는 BBC와의 인터뷰에서 AI가 의식을 가질 가능성이 높다고 생각하지 않다면서도 "AI 복지와 권리를 신경쓰는 것은 인간과 AI의 공존, 협력, 거래를 촉진할 수 있다"라며 AI 안전 전략의 일환이라고 말했다. AI를 잘 대해주면 AI가 위협적인 행동을 할 가능성을 줄일 수 있다는 지적이다.

AI와 대화할 때 '부탁합니다'나 '감사합니다'같은 표현이 필요한지를 두고 논쟁이 이어진다. 일부 전문가들은 이러한 말이 불필요한 토큰 낭비라고 주장하지만 답변을 잘 이끌어낼 수 있다는 반론도 나온다.

지난해 샘 올트먼 오픈AI CEO는 이와 관련된 비용에 대해 "수천만달러가 들지만 잘 쓴 돈"이라며 "어떻게 될지는 아무도 모른다"고 답했다.