AI가 바꾸는 인간의 기억…'가짜 기억'에 확신 갖는 사람들

AI 인지 왜곡 [그래픽=제미나이 생성]

인공지능(AI)이 사람들의 기억 내용을 왜곡해 실제로 일어나지 않은 일인데도 일어났다고 잘못 확신하게 할 위험이 있다는 연구 결과들이 나오고 있다. 

미국 일간 워싱턴포스트(WP)는 15일(현지시간) 이러한 위험을 보여주는 연구를 소개했다. 

패티 마에스 매사추세츠공과대(MIT) 미디어랩 교수 연구진은 200명을 대상으로 평범한 사진 24장을 보여준 뒤, 일부 참가자에게 AI로 표정이나 요소를 바꾼 조작 사진을 제시하고 기억력 검사를 진행했다.

그 결과 AI로 변형된 이미지를 접한 집단에서 허위 기억을 떠올리는 비율이 크게 늘어났으며, 자신이 기억한 가짜 내용을 사실이라고 확신하는 정도 또한 더 높은 것으로 나타났다.

마에스 교수는 “기본적으로 이 모든 현상이 매우 위험하다고 본다”고 경고했다.

마에스 교수 연구팀이 참가자 54명에게 에세이를 쓰게 한 뒤 뇌파를 측정한 실험(심사 진행 중)에서는 AI 도구 없이 쓴 사람들의 뇌 영역 간 연결성이 가장 강했고, 챗GPT를 쓴 사람들은 가장 약했다. 챗GPT를 쓴 참가자들은 자신이 방금 쓴 글을 인용하는 데도 상당한 어려움을 겪었다. 

뇌 연결성(Brain Connectivity)은 기억, 언어, 판단 등을 담당하는 뇌의 서로 다른 영역들이 신호를 주고받으며 상호작용하는 정도를 뜻한다. 

다만 WP는 이런 연구 결과들이 일상적인 AI 사용이 필연적으로 인지 기능 저하나 영구적인 기억력 상실을 일으킨다는 점을 입증하는 것은 아니라고 선을 그었다. 또한 관련 연구는 아직 초기 단계라고 설명했다.