글로벌 인공지능 3대 강국으로 도약하기 위해서는 기술 개발 뿐 아니라 독자적인 'AI 안전 생태계' 구축이 필수적이라는 제언이 나왔다. 특히 전 세계 AI 학습 데이터의 대부분이 영어로 편중된 상황에서 한국 실정에 맞는 데이터 주권을 확보하지 못하면 AI 사용에 있어 안전 공백이 발생할 수 있다는 우려가 제기된다.
11일 오전 국회에서 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'가 열렸다. 이번 토론회는 대한민국의 AI 안전 주권 확보 방안을 논의하는 자리로 마련됐다.
이날 포럼을 공동 주최한 박정, 이인선, 강승규, 김형동, 이정헌 의원은 축사로 AI 안전이 국가 주권과 산업 경쟁력을 좌우하는 핵심 과제라고 강조했다.
이성엽 고려대학교 교수(AI 미래가치 포럼 의장)은 환영사를 통해 "AI 확산으로 오용·편향·환각 위험이 커지는 상황에서 AI 안전 확보가 산업 성장 전제조건"이라며 "AI 안전 생태계 주권을 실질적으로 확보해 나갈지가 중요하다"고 했다.
발제를 맡은 김명주 AI안전연구소 소장은 한국형 안전 기준이 필요하다고 강조했다. 글로벌 빅테크들이 만든 거대언어모델(LLM)을 그대로 쓸 경우 한국어 환경에서 안전성을 보장할 수 없으므로 국내 데이터와 문화에 맞는 평가 기준 구축이 시급하다는 이야기다.
김 소장은 "전 세계 웹 데이터 50%가 영어다. 한국어는 0.8%에 불과하다"며 "한국어로 질문할 때 AI 안전 장치가 훨씬 쉽게 뚫리는 현상이 발견됐다"고 진단했다.
이어 "한국어 데이터셋을 기반으로 한 독자적인 안전성 평가와 주권 확보가 필수적"이라고 강조했다.
이를 위해 AI안전연구소는 현재 AI 안전을 파악하기 위한 전세계 최초로 '리스크맵'을 구축 중이다. 김 소장은 "단순 위험 나열이 아닌, 원인과 결과를 분석하고 차후 발생할 문제를 예측하는 한국형 리스크 맵을 개발해 발표할 예정"이라고 덧붙였다.
아울러 과학기술정보통신부(과기정통부)가 추진 중인 독자 파운데이션 모델 개발 과정에도 '안전·신뢰' 요소가 핵심 기준으로 반영되고 있다. 김 소장은 "평가 단계에서 안전성과 신뢰성을 포함하기 위해 2만2000개의 데이터셋을 구축해 활용할 계획"이라고 설명했다.
이어진 토론에서는 기술적 대안을 넘어 법·제도적 과제와 산업계 지원 방안에 대한 논의가 오갔다.
문정욱 KISDI 실장은 "문제는 AI와 산업이 기술적으로 결합하는 것이 아닌 AI 사용에 있는 통제 불가능한 악의적 사용과 그에 따른 책임 소재 규명"이라며 "기술적으로 경고 하더라도 사회 구성원들이 윤리적으로 AI 사용을 용인하지 않는다면 새로운 갈등으로 작용할 것"이라고 꼬집었다.
산업 현장에 실질적 도움이 되는 가이드라인이 필요하다는 의견도 제시됐다. 민대기 이화여대 교수는 "국가 차원에서 AI 안전에 대해 이야기하는 부분이 산업 발전에 도움될 것"이라며 "AI 안전 논의가 멈춰선 안돼며 기업에 도움을 주기 위해 실질적인 가이드를 줬으면 좋겠다"고 조언했다.
과기정통부는 AI 안전 생태계 조성을 위한 구체적인 로드맵을 준비 중이라고 밝혔다. 김국현 과기정통부 과장은 "AI 사용에 있어 안전성과 신뢰성을 담보하기 위해 현재 인공지능 안전과 관련한 종합 계획을 준비 중"이라며 "구체적인 내용은 밝힐 수 없으나 산업 혁신 지원할 필요가 있다고 판단한다"고 말했다.
이어 "또한 내년 AI 기본법 시행시 AI안전연구소를 둘 수 있다는 조항이 있다"며 "현재 ETRI가 운영하는 안전연구소의 경우 다양한 제약조건이 있기 때문에 기관 운영 자율성과 위상 강화 부분을 고민 중"이라고 덧붙였다.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지
![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)
