오픈AI, 챗GPT·달리 이용한 선거허위정보 차단…"정보·이미지 출처 제공"

오픈AI, 선거 훼손하는 방식으로 이용되기 원치 않아

 

챗 GPT 신고 장면[ 사진=오픈AI 블로그]

챗GPT 개발사 오픈 AI가 자사 인공지능(AI) 챗봇이 선거에 악용되는 것을 막기 위한 대책을 마련했다. 올해 미국 대선을 비롯해 세계적으로 대형 정치 이벤트가 줄지어 예정된 가운데 AI발(發) 가짜뉴스에 대한 우려가 커지자 이에 대응하기 위한 것이다. 

오픈AI는 15일(현지시간) 블로그를 통해 "우리의 기술이 민주적 절차를 훼손하는 방식으로 사용되기를 원하지 않는다"라며 AI가 제공하는 정보에 출처를 표시할 예정이라고 밝혔다. 

먼저 챗GPT가 제공하는 뉴스·정보와 달리가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 등 출처가 제공된다. 챗GPT가 더 많은 정보를 제공하면서 이용자가 실시간으로 뉴스에 접근할 수 있게 되면서다. 이 과정에서 출처를 밝히면 유권자가 정보를 더 잘 평가하고 신뢰할 수 있을 것으로 오픈AI는 보고 있다. 

달리가 제공하는 이미지에 대한 검증도 강화된다. 오픈 AI는 어떤 이미지가 달리에 의해 생성됐는지 여부를 확인할 수 있는 '이미지 찾기 도구'(image-detection tool)를 출시한다. 달리가 언론인, 연구원 등에 우선 배포해 피드백을 받을 예정이라고 설명했다. 아울러 달리가 제공한 이미지에는 이를 확인하는 워터마크도 표시된다.

테스트를 마친 후 오픈AI는 챗GPT를 통한 투표 정보 접근을 향상시킬 예정이다. 오픈AI 측은 "미국 주정부 국무장관 협회(NASS) 등과 협력해 정확한 선거 관련 정보를 제공하려 한다"며 "올해 전세계적인 선거를 앞두고 AI의 남용 가능성을 예측하고 방지하기 위해 계속해서 파트너와 협력할 계획"이라고 말했다.

올해 주요 선거를 앞두고 AI발 가짜뉴스에 대한 우려가 커지자, 기업들은 자사의 기술이 선거에 악용되는 것을 막기 위해 대책을 내놓고 있다. 앞서 구글은 자사 AI 챗봇 '바드'와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했다. 또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우, 광고주가 이 사실을 눈에 띄게 표시하도록 했다.