[단독] 150억 투입, 3년차 AI안전연구소…홈페이지도 '먹통'

미국·EU, 주요 AI 모델 테러 활용 가능성 없애기 위해 안전성 평가

AISI·ETRI "각국 정부와 비공개 협업 많아 성과 공개 어려운 부분 감안해달라"

김명주 한국AI안전연구소 소장 [사진=남궁진웅 기자]

정부가 인공지능(AI) 모델의 위험성을 평가하기 위해 만든 '한국AI안전연구소(AISI)'가 테러, 각종 범죄에 AI가 활용될 수 있는지 여부를 살피기 위한 화학·생물·방사선·핵(CBRN) 특화 평가 실적은 '0'건이었고 현재 홈페이지는 접속조차 안 되고 있어 혈세 150억원을 낭비한 것 아니냐는 의혹이 제기되고 있다.

18일 한국AI안전연구소의 홈페이지가 수일째 다운돼 접속이 안 되는 것으로 나타났다. 출범 이후 AISI에 편성된 정부 예산은 약 150억원에 달한다.

AISI의 설립 목적은 △AI 위험 대응 및 안정성 평가 △글로벌 AI 규범 및 정책 주도 △국내 AI 기업 지원 △전문 인력 및 기술 육성 등이다. 이 중 가장 중요한 것이 AI가 무기로 활용될 가능성을 차단하기 위한 CBRN 평가다. AI 모델이 화학무기 합성, 병원균 설계, 핵 장치 조립 관련 정보를 제공할 수 있는지를 측정하는 최고 위험 등급 평가 항목이다.

150억원의 상당수가 해당 평가를 위해 투입된 것으로 알려졌다. 하지만 출범 3년차인 현재까지 국내 AI 기업을 대상으로 한 CBRN 평가 결과를 공개한 사례는 없다.

영국의 AI안보연구소는 지난해 글로벌 최첨단 AI 모델 30종 이상을 테스트했으며, 사이버·화학·생물정렬 평가 역량을 심화했다고 밝힌 바 있다. 앞선 2024년에는 AI프런티어 모델 5종을 대상으로 CBRN 평가를 진행해 공개했다. 미국 AISI 역시 오픈AI의 모델과 앤트로픽 클로드 모델에 대한 사전 배포 평가를 진행하고 있으며, 오픈AI o1모델에 대한 CBRN을 공개했다.

미국과 유럽 중심의 CBRN 평가 강화로 인해 앤트로픽, 오픈AI, 구글 딥마인드 등 빅테크 기업들도 모델 출시 때마다 CBRN 평가를 실시하고, 결과를 상세 공개한다.

국내 기업 가운데 AI 모델 안전성 평가 결과를 외부에 공개한 곳은 카카오가 유일하다. 카카오는 지난해 12월 자체 개발 언어모델 카나나-1.5-9.8B에 대한 안전성 평가 결과를 처음으로 공시했다. 그러나 평가 항목은 폭력·차별적 표현 등 일반적 위험 요소와 무기·보안 오남용 시나리오에 한정돼 CBRN 특화 항목은 포함되지 않았다.

네이버, SKT, LG 등 주요 AI 개발사의 안전성 평가 보고서는 공개된 것이 없으며, 현재 AISI와 안전평가를 진행 중인 곳도 없는 것으로 확인됐다.

AISI는 각국 정부와 밀접하게 협업하는 일들이 많아 밝힐 수 없는 부분이 많다고 밝혔다. 구체적인 성과에 대해 질문하자 AISI 관계자는 "AISI의 각종 사업과 성과는 홈페이지에 공시하고 있다"고 답했다. 하지만 홈페이지가 먹통이라 확인이 불가능했다. 150억원에 달하는 예산이 투입됐는데 각국 정부와의 협업이 주요 업무라는 설명도 납득하기 어렵다.

AISI를 산하에 두고 있는 한국전자통신연구원(ETRI) 관계자는 "AISI의 주요 사업에는 국가 정책 수립과 해외 정부와의 협업도 있다"며 "대부분 비공개 사안이라 밝힐 수 없어 공개된 성과가 많지 않아 보일 수 있다"고 해명했다.