차미영 단장 "AI 시대 허위정보 대응, 플랫폼 알고리즘 투명성 높여야"

가짜뉴스 생태계, 과거와 달라

사람 넘어 AI 통해 장기간 이뤄질 것

법과 제도만으로 문제 해결 어려워

편향·공정성 등 다양한 부분에서 벤치마크 만들어야

차미영 독일 막스플랑크 보안 및 정보보호연구소 단장(한국과학기술원 전산학부 교수)이 서울 강남구 한국과학기술회관에서 열린 '2026 세계한인과학기술인대회' 기조강연 후 인터뷰를 진행하고 있다. [사진=과총]

"인공지능(AI) 시대에는 허위정보를 사람이 일일이 검증하는 방식만으로는 한계가 있습니다. 플랫폼이 알고리즘의 편향성과 공정성을 지속적으로 관리하고 공개해야 합니다."

7일 차미영 독일 막스플랑크 보안 및 정보보호연구소(MPI-SP) 단장(한국과학기술원 전산학부 교수)은 서울 강남구 한국과학기술회관에서 열린 2026 세계한인과학기술인대회 기조강연 후 진행한 인터뷰에서 AI 시대 허위정보 대응 방향에 대해 이같이 밝혔다.

차 단장은 이날 가짜뉴스 생태계가 과거와 전혀 다른 양상으로 바뀌고 있다고 진단했다. 그는 "과거에는 허위조작정보가 점조직처럼 퍼지고 분노 감정이 결합할 때 전파 속도가 빨랐다"며 "앞으로는 이런 방식으로 추적하고 대응하기는 쉽지 않을 것"이라고 평가했다.

이어 "허위정보 확산이 사람과 사람 사이 전파가 아니라 사람을 가장한 AI 계정 집단을 통해 장기간 이뤄질 수 있다"고 덧붙였다.

차 단장은 AI가 허위정보를 지속적으로 주입할 경우 개인의 선택뿐 아니라 민주주의까지 흔들 수 있다고 우려했다. 그는 "중요한 것은 AI를 기반으로 어떤 의도와 목적을 가지고 만들었느냐에 있다"고 말했다.

정부가 허위조작정보 근절 규제를 시행하는 것과 관련해서는 법과 제도만으로 문제가 해결되기 어렵다고 짚었다. 차 단장은 "가짜뉴스에는 책임을 져야 하는 주체가 굉장히 많다"며 "가짜뉴스를 생성한 주체와 이를 막지 않고 사회관계망서비스(SNS)에 전파한 플랫폼, 퍼 나른 사용자 등이 있다"고 말했다.

이어 "모든 분야를 다 감시하기는 현실적으로 어렵다"며 "선거나 중요한 사회적 이슈처럼 온라인 공론장에서 형성된 의견이 의사결정이나 투표로 이어지는 사안은 집중적으로 모니터링할 필요가 있다"고 덧붙였다.

AI 생성 콘텐츠를 탐지하는 기술도 아직 완전하지 않다고 진단했다. 차 단장은 "AI가 생성한 것인지 판별하는 기술은 계속 나오고 있지만, 이를 우회하는 생성 방식도 함께 발전하고 있다"며 "아직 완벽하게 잘하는 분야라고 보기는 어렵다"고 설명했다.

그는 정보 유통 구조 자체가 바뀌고 있다는 점도 지적했다. 과거에는 사람이 직접 허위정보를 검증하는 방식이 중심이었다면 최근에는 플랫폼들이 알고리즘을 활용해 콘텐츠를 관리하는 비중이 커지고 있다는 이야기다.

차 단장은 "지금은 많은 사람들이 타인에게 묻기 전에 AI에게 먼저 물어본다"며 "AI와 개인의 대화는 외부에서 볼 수 없기 때문에 AI가 이용자에게 어떤 정보를 제공했는지, 틀린 정보를 전달했는지 측정하기 어려워질 것"이라고 말했다.

그는 AI와 이용자의 대화가 늘어날수록 플랫폼이 알고리즘의 신뢰성과 편향성을 스스로 검증하고 사회에 설명하는 책임도 커질 것이라고 강조했다. 차 단장은 "편향과 공정성 등 다양한 부분에서 벤치마크를 만들고 그 결과를 투명하게 공개해야 한다"며 "그래야 플랫폼이 사회적 가치를 위해 어떤 노력을 하고 있는지 확인할 수 있다"고 말했다.

차 단장은 데이터 과학과 인공지능(AI)을 활용해 허위정보, 빈곤, 공공행정 등 사회문제 해결 방안을 연구하는 데이터 사이언스 전문가다. 

주요 연구 분야는 '인류를 위한 데이터 사이언스(Data Science for Humanity)'다. AI와 빅데이터를 활용한 가짜뉴스 확산 메커니즘 분석, 허위정보 탐지, 위성영상 기반 빈곤지역 분석, 공공서비스 AI 등 사회문제 해결형 AI 연구를 수행했다. 이러한 연구 성과를 인정받아 2024년 홍진기 창조인상을, 올해 과학기술훈장 혁신장을 수상했다.