[단독] AI안전 예산 31억원 늘었는데…위험평가·대응에는 고작 1억5300만원

AI 안전연구소 관련 정부 예산안 159억원…전년 比 22.8%↑

전체 예산 끌어올린 건 R&D, 비R&D 예산은 1.7% 늘어나는데 그쳐

이정헌 의원 "장기 R&D 예산 증가…국가 사이버 안보 골든타임 놓치는 길"

[사진=게티이미지뱅크]

인공지능(AI) 에이전트를 활용한 것으로 의심되는 사이버 공격이 국내 금융권을 덮친 가운데 AI의 위험성을 검증할 국가 평가예산은 사실상 제자리에 머문 것으로 나타났다. 내년도 AI안전연구소 관련 예산은 올해보다 24% 늘었지만 증액분 대부분이 연구개발(R&D)에 집중되면서 실제 AI 모델 평가와 위협 동향 대응 예산은 사실상 제자리라는 지적이 나온다.

6일 국회과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원이 과학기술정보통신부로부터 받은 자료에 따르면 2027년도 AI안전연구소와 관련한 정부 예산안은 159억4400만원으로 올해 대비 23.8% 증가한다. 

전체 예산을 끌어올린 것은 R&D다. '공존 가능한 신뢰 AI를 위한 AI 세이프티 기술개발' R&D 예산은 39억7500만원에서 68억91000만원으로 73.3% 늘어난다. 전체 증액분의 약 95%다. 과기정통부는 기존 안티딥페이크 탐지, 적대적 공격 회복탄력성 연구를 계속 지원하고 AI 안전성 평가·검증 기술 고도화를 위한 신규 과제 2개를 추진할 예정이다. 

반면 현재 출시한 AI 모델을 실제 평가하고 국내외 안전기관과 협력하거나 위협 동향을 분석하는 비 R&D 예산은 89억원에서 90억5300만원으로 1.7% 늘어나는 데 그쳤다. 중장기 평가기술 개발을 위한 연구비는 확대됐지만 당장 증가하는 모델 평가 수요에 대응할 운영예산은 사실상 동결됐다.

AI안전연구소의 평가 부담은 빠르게 커지고 있다. 연구소가 평가한 AI모델은 지난 3월 6개에서 8월 11개로 약 83% 증가했다. 에이전트형 AI 모델 하나를 평가하는 데 통상 7~10일이 걸리고 사이버 위협 평가에만 3~4일이 소요된다. 벤치마크를 한 차례 구동하는 데 드는 토큰 비용도 5000~6000만원에 달한다. 

고성능 그래픽처리장치(GPU)도 외부 지원에 기대고 있다. 연구소 평가실은 대규모·프런티어급 AI 모델 평가를 위해 국가 AI 프로젝트에서 B200 서버 2대, GPU 기준 16장을 임차해 사용 중이다. 평가실이 자체적으로 추가 구매한 GPU나 향후 구매가 확정된 물량은 없다. 연구소는 임차를 통해 추가 물량을 확보한다는 계획이다. 

이에 이정헌 의원은 "장기 R&D 예산만 늘려놓고, 당장 쏟아지는 글로벌 프런티어 AI의 위험성을 실시간으로 검증해야 할 '안전 평가실' GPU 인프라를 동결 수준으로 방치하는 것은 국가 사이버 안보의 골든타임을 놓치는 심각한 탁상행정"이라고 지적했다.

이어 "AI가 스스로 취약점을 탐색하고 침투 경로를 설계할 가능성이 현실적인 위협으로 떠오른 만큼, 사후 대응뿐만 아니라 AI 모델의 공격 능력을 사전에 검증하고 통제할 국가 전담 평가 인력과 운영 예산, 연산 자원을 함께 확충해야 한다"고 강조했다.