'AI가 취약점 10분 만에 탐색'…과기정통부, 보안 특화 AI 모델 검토

8일 오전 독파모 기업 포함 AI 보안 산학연 간담회 열어

앤트로픽 오푸스로 취약점 쉽게 발견…AI 공격 속도 빨라질 것

오는 5월 말~6월 초 정보보호 패러다임 변화 방향 설명

류제명 2차관, 오는 11일 앤트로픽 만나 AI 보안 대응 방향 논의

8일 최우혁 과기정통부 정보보호네트워크정책실장이 서울 광화문에서 열린 브리핑에서 발언하고 있다. [사진=나선혜 기자]

과학기술정보통신부(과기정통부)가 고도화하는 AI 기반 사이버 위협에 대응하기 위해 보안 특화 AI 모델 개발 필요성을 검토하고 있다고 밝혔다.

8일 최우혁 과기정통부 정보보호네트워크정책실장은 서울 광화문에서 열린 브리핑에서 "현재 정보보호 체계만으로는 AI 모델 기반 위협에 대응하기 어렵다는 공감대가 있었다"며 "사이버 보안에 특화된 독자 AI 모델 필요성에 대해 논의했다"고 말했다. 

앞서 과기정통부는 이날 오전 글로벌 AI 기업의 사이버 보안 프로젝트 대응 방안을 논의하기 위해 산학연 전문가 간담회를 열었다. 간담회에는 SK텔레콤, 업스테이지, 모티프테크놀로지스 등 독자 AI 파운데이션 모델(독파모) 개발 참여 기업과 주요 AI 기업, 한국정보보호학회장, 주요 기업 최고정보보호책임자(CISO) 등이 참석했다.

과기정통부는 단기적으로는 현재 활용 가능한 보안 특화 모델 성능을 높이고, 중장기적으로는 독자 AI 모델을 기반으로 한 보안 대응 체계를 구축하는 방향을 검토하고 있다는 입장이다. 

최 실장은 "독파모를 잘 활용해 보안에 특화된 AI 체계를 만드는 방향에 대해 공감대가 있었다"며 "확정적으로 추진 방안을 결정한 단계는 아니고 필요성을 논의하는 과정"이라고 설명했다. 이어 "오는 5월 말에서 6월 초 사이 정보보호 패러다임 변화 방향을 설명할 예정"이라고 덧붙였다.

이날 간담회에서는 실제 AI 기반 침투 시연 사례도 소개된 것으로 알려졌다. 과기정통부와 한국인터넷진흥원(KISA)은 앤트로픽의 오푸스(Opus) 모델을 활용해 특정 기업 서비스의 취약점을 탐색한 뒤 계정 탈취와 우회 접속까지 이어지는 과정을 시연했다.

최 실장은 "기존 비밀번호를 알지 못해도 AI가 새로운 비밀번호 생성 루트를 찾아내는 취약점 사례가 있었다"며 "AI가 취약점을 탐색하고 계정을 확보한 뒤 서비스에 접속하는 과정까지 확인했다"고 설명했다.

과기정통부와 KISA에 따르면 해당 테스트에서는 총 7가지 취약점이 발견됐다. 특히 전문 해커가 수일에 걸쳐 수행하던 취약점 탐색 작업을 AI가 10여분 만에 수행한 것으로 나타났다.

최 실장은 "전문 해커가 수작업으로 며칠 걸려 찾을 취약점을 AI가 짧은 시간 안에 찾아냈다"며 "현재는 일반 이용자가 바로 활용하기 어려운 수준이지만 전문 해커의 프롬프트 활용 능력이 높아질수록 공격 속도가 빨라질 가능성이 있다"고 짚었다. 

한편 오는 11일 류제명 과기정통부 제2차관과 앤트로픽 측이 만나 AI 기반 사이버 보안 위협 대응 방안을 논의할 예정이다. 최 실장은 "미토스 관련 대응 필요성이 제기되면서 정부가 먼저 협조를 요청했다"고 했다.