AI 거버넌스 우선 목표에 안전·혁신·포용성…'서울 선언' 채택

주요국 정상들 "AI 안전연구소 간 네트워크 조성"

"국제 표준 개발 위한 협력 강화"…AI 기업들 서약

이종호 과학기술정보통신부 장관이 22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션에서 개회사를 하고 있다. 왼쪽은 미셸 더넬란 영국 과학혁신기술부 장관. [사진=연합뉴스]

주요국 정상들이 인공지능(AI) 거버넌스(규범)에 관해 안전, 혁신, 포용성을 우선순위로 두고 국제 논의를 진행하기로 했다. AI 안전연구소 등을 설립하기 위해 함께 노력하고, 이들 단체 간 협력도 늘려 나갈 방침이다. 

22일 대통령실에 따르면 윤석열 대통령과 리시 수낵 영국 총리는 21일 'AI 서울 정상회의' 정상 세션을 주재했다. 회의에 참석한 정상들은 '서울 선언'과 그 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'를 채택했다.

'서울 선언'과 '서울 의향서'는 AI 거버넌스의 상호 연관된 3대 우선 목표로 안전, 혁신, 포용을 제시한다. 또 각국 AI 안전연구소 간에 네트워크를 구축하고, 글로벌 협력을 촉진할 것을 다짐하는 글로벌 AI 선도국의 의지와 상호 협력을 위한 세부 사항을 포함한다. 

정상들은 "2023년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의에서 제시한 노력을 바탕으로 AI의 안전·혁신·포용성이 상호 연계된 목표로 AI 설계·개발·배치·사용이 제기하고 있거나 제기할 수 있는 광범위한 기회와 도전에 대응하기 위해 AI 거버넌스에 대한 국제 논의에 이 우선순위들을 포함하는 것이 중요하다는 점을 인식한다"고 선언했다.

또 "선언 참여국들이 AI 안전연구소, 연구 프로그램, 그리고 감독 기관들을 포함한 기타 유관 기관들을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지한다"며 "이러한 단체 간 네트워크를 육성해 안전 연구에 관한 협력을 증진하고, 모범 관행을 공유하기 위한 협력을 증진하기 위해 노력한다"고 강조했다.

전 세계 주요 인공지능(AI) 기업들도 '서울 선언'에 동참할 것을 약속하며 글로벌 AI 거버넌스 방향을 제시했다.

'AI 서울 정상회의' 연계 행사로 이날 한국과학기술연구원(KIST)에서 열린 'AI 글로벌 포럼'에 참석한 국내외 주요 AI 기업은 책임 있는 AI 개발과 활용에 뜻을 함께하는 '서울 AI 기업 서약'에 합의했다. 서약에는 오픈AI, 구글, 마이크로소프트(MS), 앤스로픽, IBM, 어도비 등 글로벌 AI 기업과 SK텔레콤, KT, 네이버, 카카오, 삼성전자, LG AI연구원 등 모두 14곳이 참여했다.

이종호 과학기술정보통신부 장관은 기업 서약에 대해 "AI가 생성한 콘텐츠를 워터마크로 식별하는 조치를 취하고, 국제 표준 개발을 위한 협력을 강화하며 AI의 지속 가능한 발전과 혁신을 위한 시스템 개발에 투자할 것을 약속한다"고 설명했다. 

한편 이번 회의 정상 세션 초청국은 지난해 영국의 'AI 안전성 정상회의' 정상 세션과 같이 주요 7개국(G7), 한국, 호주, 싱가포르로 구성됐다. 차기 회의는 프랑스가 'AI 행동 정상회의(AI Action Summit)'란 명칭으로 개최하기로 했다.