정부, AI 기반 사이버 위협 대응체계 가동…취약점 관리 일원화

제 9회 과학기술관계장관회의서 'AI 사이버 위협 대응 정보보호 추진 계획' 발표

정부가 생성형 인공지능(AI) 확산에 따른 사이버 위협 고도화에 대응해 범정부 차원의 민간 정보보호 대응체계 구축에 나선다. 고성능 AI를 활용한 취약점 발굴과 공격 자동화 가능성이 커지면서 정부와 민간이 함께 대응하는 AI 기반 보안 체계를 마련하겠다는 구상이다.

과학기술정보통신부(과기정통부)가 29일 오전 제9회 과학기술관계장괸회의에서 'AI 기반 사이버 위협에 대응하기 위한 민간 정보보호 추진 계획'을 발표했다.

고성능 AI를 기반으로 취약점 발굴이 일상화되면서 보안조직에 대한 우려가 커지고 있는 탓이다. 이에 과기정통부는 범정부 거버넌스와 협력체계를 마련해 AI 취약점에 공개 대응한다는 방침이다.

우선 정부는 청와대 국가안보실을 중심을로 AI 취약점 공개·패치, 위협 상황 등을 신속 공유·전파한다. 침해사고(정황) 발생 시 합동대응 가능한 긴급 체계를 구축하는 한편 과기정통부 내 총괄상황반을, 민간 분야는 소관 부처별 상황반을 가동한다.

관련기사

정부는 한국인터넷진흥원(KISA) 내 취약점 관리센터를 설치해 취약점·패치 관리를 일원화한다는 방침이다. 취약점 정보포털(KNVD)을 중심으로 국내외 취약점과 패치 정보를 수집·분석하고, 이를 기업 정보보호최고책임자(CISO)와 민간 협력채널(C-TAS·ISAC), 관계부처 등에 신속 공유하는 긴급 대응체계를 구축한다는 방침이다.

정부는 과기정통부가 국제 협력을 통해 확보한 고성능 AI 모델을 취약점 분석과 패치 생성·검증 업무에도 시범 적용할 계획이다.

앞서 과기정통부는 지난 26일 오픈AI와 AI 보안 위협 대응 및 AI 안전·신뢰 확보 방안을 논의하는 간담회를 열고 오픈AI 사이버 보안 신뢰기반 접근 프로그램(GTAC)에 참여하기로 했다.

이를 기반으로 정부는 오픈소스 취약점 수집부터 자동 분석·분류, 패치 생성 및 검증까지 AI 기반 자동화 체계를 단계적으로 도입한다. 기업 지원 분야에서는 수요기업 동의를 전제로 개인정보(DB)가 포함되지 않은 소스코드 등을 분석해 취약점을 발굴하고, AI 기반 조치 방안까지 제공하는 방식이 검토된다.

주요 기업에 대해서는 자산 관리와 취약점 점검, 패치 대응 등 보안 대비 태세 강화를 추진한다. 정부는 정보통신기반시설과 ISMS 의무기업, 금융·의료·에너지 분야 대형기업, 상급종합병원과 주요 사립대 등 약 1200개 기업·기관을 대상으로 분야별 이행 점검을 진행할 예정이다.

중소기업 대상 지원도 강화한다. 정부는 중소기업이 자체적으로 IT 자산과 보안 수준을 진단할 수 있는 웹 기반 도구를 배포하고, 이에 기반한 보안 투자 가이드와 조치 방안도 함께 제공할 계획이다. AI 악용 가능성이 높은 오픈소스 취약점에 대응하기 위해 SW구성명세서(SBOM) 생성·분석 기술 지원도 추진한다. 이와 함께 공격 표면 점검과 전문가 상담을 제공하고, 고성능 AI 모델 기반 취약점 점검 인프라도 지원한다.

AI 기반 사이버 위협 대응 체계도 강화한다. 정부는 하루 약 3억5000만건 규모의 글로벌 도메인을 상시 모니터링하고, AI 기반 악성 행위와 의심 도메인을 생성 단계부터 탐지·차단하는 체계를 구축하기로 했다. AI 서비스 관련 침해사고 발생 시에는 ‘침해사고조사심의위원회’를 즉각 가동해 신속 조사와 피해 확산 차단에 나설 방침이다.

국제 협력 확대도 추진한다. 정부는 오픈AI의 정부·기관용 신뢰 기반 접근 프로그램(GTAC)을 시작으로 글로벌 빅테크의 AI 보안 프로젝트 참여와 정보 공유 협력을 확대한다. 우방국 사이버보안 기관과 AI 기반 위협 대응 및 정보 공유 체계 구축도 병행할 예정이다.

이와 함께 제조사와 기업·기관·일반인을 대상으로 취약점 발견부터 패치까지 전 단계 대응 요령을 마련해 배포하고, 보안 투자 확대를 위한 홍보 활동도 추진한다. 주요 산업군 최고경영자(CEO)를 대상으로 한 릴레이 간담회 개최 방안도 검토 중이다.

정부는 오는 2027년부터는 국내 정보보호 체계를 독자 AI 기술 기반으로 전환하고, AI 보안 주권 확보를 위한 프로젝트를 본격 추진한다는 계획이다.

배경훈 부총리 겸 과기정통부 장관은 "사이버보안 분야 AI 발전 속도가 빠른 상황으로 우리나라도 AI 시대 걸맞은 보안 체계와 글로벌 협력을 갖출 필요가 있다"며 "이번 대책을 통해 AI 발 대규모 취약점 공개에 대응하기 위한 긴급체계를 마련하고, 우리의 기술과 모델을 기반으로 한 AI 보안주권 확립도 속도감 있게 추진해 나가겠다"고 강조했다.