배경훈 부총리 "AI 안전은 공존 사회의 첫걸음"…AI안전연구소서 정책 방향 점검

사진=배경훈 부총리 겸 과학기술정보통신부 장관

배경훈 부총리 겸 과학기술정보통신부 장관은 AI 기본법 시행을 앞두고 “AI의 위험성과 남용성에 대한 국민의 불안을 해소하고, 우리나라가 미국·중국을 따라가는 것이 아니라 독자적인 역량으로 AI 산업을 선도할 수 있는 방향을 마련해야 한다”고 강조했다.

배 부총리는 23일 인공지능(AI) 안전연구소를 방문해 연구 현장을 점검하고 산·학·연 전문가들과 간담회를 열었다.

“AI가 가진 위험성과 남용 가능성에 국민이 불안감을 느끼고 있는 만큼, 안전연구소가 국민이 신뢰할 수 있는 제도적 기반을 마련해야 한다”며 “이에 따라 AI 기본법 하위법령을 구체화하고 있고, 발표 앞두고 있다”고 말했다. 

또한 국제적으로 논의되고 있는 ‘고영향 AI(High-Impact AI)’의 정의 기준에 대해서도 “현재 10의 26승 수준으로 정의하는 것이 타당한지, 일부 국가들이 제시한 10의 25승 기준이 맞는지 검토가 필요하다”며 “우리나라 실정에 맞는 합리적 기준을 마련해야 한다”고 말했다.

배 부총리는 “우리가 미국이나 중국을 단순히 따라가는 AI를 만드는 것이 아니라, 한국만의 독자적 역량으로 AI 산업과 서비스를 선도해야 한다”며 “국내 기업들이 이미 빠르게 AI 기술과 서비스를 구현하고 있는 만큼, 이제는 새로운 고민의 시점에 와 있다”고 강조했다.

이어 “AI 사회를 준비하는 데 있어 가장 중요한 것은 모두가 누릴 수 있는 AI 사회를 만드는 것”이라며 “AI 발전 과정에서 부익부 빈익빈 현상이 심화되거나 소외계층이 발생하지 않도록 정부와 산업계, 연구기관이 함께 고민해야 한다”고 덧붙였다.

이날 방문은 최근 딥페이크를 악용한 범죄가 증가하고, 범용인공지능(AGI)과 AI 에이전트 시대 도래로 새로운 유형의 피해가 우려되는 가운데, AI 안전 확보 기술과 정부 정책 방향을 논의하기 위해 마련됐다.

AI안전연구소는 2024년 우리나라가 설립한 기관으로, 영국(2023년 11월), 미국(2024년 2월), 일본(2024년 2월), 싱가포르(2024년 5월) 등 주요국이 AI 위험에 대응하기 위해 안전연구소를 세운 데 이어 설립됐다. 연구소는 AI 안전 확보 기술 선도, 모델 평가, 안전 정책 논의, 글로벌 협력 등 국가 차원의 AI 안전성 확보를 위한 핵심 역할을 맡고 있다.

배 부총리는 현장에서 딥페이크 탐지 기술, 미래 AI 위험 연구, AI 안전 평가 수행, 글로벌 협력 등 주요 연구를 살펴보고 연구진을 격려했다. 또 딥페이크 탐지 기술과 AI 에이전트 안전성 평가 시연을 참관하며 관련 의견을 청취했다.

이어진 간담회에서는 ‘AI 위험 대응을 위한 기술 개발 현황’과 ‘AI 안전 생태계 조성 방안’을 주제로 논의가 진행됐다. 첫 번째 세션에서는 딥페이크 방지 기술과 AI 에이전트를 안심하고 사용할 수 있는 기술적 대응 방향이, 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 맞춰 '국가 AI 안전 생태계 조성 종합계획(가칭)' 추진 방향이 논의됐다. 참석자들은 안전하고 신뢰할 수 있는 AI 개발·활용 환경 조성의 필요성에 공감했다.

배 부총리는 “과기정통부는 관계부처 및 유관기관과 협력해 올해 안에 국가 AI 안전 생태계 종합계획을 마련할 것”이라고 밝혔다.