구글, AI 이미지 생성 기능 하루 만에 철회…"허위정보 우려"

구글 나노 바나나2로 생성된 이미지. [사진=구글 홈페이지 캡쳐]

구글이 위성지도 서비스 '구글 어스'에 도입한 AI 이미지 생성 기능을 하루 만에 롤백했다. 실제 지형과 건물 위에 가짜 장면을 합성할 수 있어 허위정보 확산에 악용될 수 있다는 지적이 잇따른 데 따른 조치다.
 
2일 IT업계에 따르면 알파벳 자회사 구글은 지난달 30일(현지시간) 구글 어스에 자체 AI 이미지 생성 도구 '나노 바나나 2'를 통합한다고 발표했다가, 다음날인 31일 해당 기능 통합을 철회한다고 공지했다.
 
이 기능은 사용자가 구글 어스의 위성·항공·3D 지도 데이터를 기반으로 특정 지역을 확대해 몇 초 만에 AI 이미지를 만들어낼 수 있도록 지원했다. 구글 어스 제품관리자(PM) 브라이언 호로위츠는 도입 당시 △역사적 장면 시각화 △부동산 계획안 작성 △착공 전 건설계획 시각화 등에 활용할 수 있다고 소개했다.
 

그러나 공개출처정보(OSINT) 전문가와 허위정보 연구자들은 해당 기능이 실제 지형·건물 이미지 위에 그럴듯한 가짜 장면을 덧씌워 사실확인을 어렵게 만들 수 있다며 강하게 반발했다. 구글 어스는 그동안 분쟁지역이나 접근이 제한된 현장의 피해 상황, 군사시설, 재난 현장을 확인하는 언론인·연구자들의 기준 자료로 활용돼 왔다.
 
영국 파이낸셜타임스(FT)는 해당 기능으로 생성된 가자지구 폭탄 분화구, 이란 핵시설, 암스테르담 거리 자동차 사고 등의 가짜 이미지가 소셜미디어 X에 게재됐다고 보도했다. AFP통신도 자체 시험 결과 파리 폭발 장면, 이란 핵시설, 러시아 폭탄 분화구, 시리아 이슬람국가(IS) 훈련장 등 국제적으로 민감한 사안을 연상시키는 가짜 위성 이미지를 생성할 수 있었다고 전했다.
 
논란이 확산되자 호로위츠 PM은 기능 도입 24시간이 채 지나지 않은 시점에 롤백 방침을 밝혔다. 그는 "구글 어스에 대한 사람들의 신뢰는 독보적"이라며 "지리공간 전문가들이 이 기능을 유용한 목적으로 쓰는 사례도 있었지만, 정책 위반으로 보이는 생성 이미지가 공유되는 사례도 확인했다"고 설명했다. 이어 더 강력한 안전장치를 마련하는 동안 기능을 되돌리겠다고 덧붙였다.
 
AI로 편집된 이미지는 다른 이용자들이 보는 구글 어스 기본 화면에는 노출되지 않았고, AI 생성 워터마크도 부착돼 있었다. 하지만 전문가들은 이 같은 조치만으로는 악용을 막기에 부족하다고 지적했다.
 
로이터통신은 메타 역시 이달 초 인스타그램 공개 계정을 활용한 이미지 생성 AI 기능 '뮤즈 이미지'를 도입했다가 개인정보 보호 논란으로 중단한 사례가 있었다고 전했다.