[권기원 칼럼] '국방AI법안'의 주요 내용과 기대 효과

[권기원 법무법인(유한) 대륙아주 입법지원실장]

 
국방부는 지난해 AI 기술을 활용해 장관과 고위 지휘관의 정책 결정을 지원하는 “AI 정책참모”, 전장에서 지휘관의 결심을 지원하는 “AI 전투참모”를 구축할 계획이라고 밝혔다. 또한, 올해 1월 2일부터 시행된 직제 개정안에서 국방 인공지능 정책 기능 강화를 위해 AI 전담 차관보를 신설하고 첨단 과학기술군으로의 전환을 효과적으로 추진하기 위한 거버넌스를 구축하겠다는 게 국방부 방침이다. 이와 같은 상황을 반영하여 유용원의원과 부승찬의원이 대표발의한 국방인공지능법안이 올해 초반에 국회에 제출되었다.

배경 

AI 기술이 국방 분야에서 군사작전의 혁신, 지휘 결심의 고도화, 전장 환경 예측 능력 제고 등 미래 국방력을 좌우하는 핵심 요소로 부상함에 따라 세계 주요 국가들은 국방 기술 우위를 확보하기 위하여 국방 인공지능(AI)을 전략적으로 육성하고 있다.
우리나라의 경우 인공지능 발전과 기반 조성에 관한 내용을 규율하고 있는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 적용 대상에서 국방 분야가 제외되어 있어, 국방 인공지능의 체계적 육성과 책임 있는 활용을 위한 별도 입법의 필요성이 제기되고 있었다. 이에 2026년 1월 17일 「국방인공지능법안」(이하 “제정안”)이 발의되어, 현재 국회에서 심사절차가 진행되고 있다. 제정안은 ① 국방 인공지능 정책의 기본 방향 제시 및 정책 심의 의결ㆍ수행 기구 설치, ② 국방 인공지능 기술의 개발ㆍ도입ㆍ운용 촉진 수단 마련, ③ 국방 인공지능 기술 운용상의 안전관리 장치 마련 등의 내용을 포함하고 있다.

 
주요 내용

첫째, 정책 기본 방향 제시 및 정책 심의 의결ㆍ수행 기구의 설치와 관련하여, 제정안은 국방 인공지능 정책의 기본 방향으로 ① 국방 인공지능 기술 개발ㆍ활용을 통한 국가 안보 및 국방력 강화, ② 국방 인공지능 시스템의 안전성ㆍ신뢰성ㆍ책임성 확보 등을 명시하고 있다. 제정안은 국방부장관으로 하여금 3년마다 국방 인공지능 기본계획을 수립ㆍ변경 및 시행하도록 하고, 기본계획 기타 주요 정책 사항의 심의ㆍ의결을 위한 국방인공지능위원회와 위원회의 업무를 전문 분야별 로 논의하기 위한 하위 분과위원회를 설치함으로써 정책의 기본 방향을 구체화하고 있다. 또 국방부장관이 국방인공지능정책센터를 지정ㆍ설치하여 국방 인공지능 정책 개발 등에 관한 업무를 종합적으로 수행할 수 있게 함으로써, 국방인공지능위원회의 심의ㆍ의결 기능을 실질적으로 지원하도록 하였다.

둘째, 국방 인공지능 기술의 개발ㆍ도입ㆍ운용 촉진 수단과 관련하여, 제정안은 국방부장관등이 「방위사업법」에 따른 무기체계 등에 인공지능 기술을 적용하여 도입ㆍ운용하는 경우로서 신속한 전력화가 필요하거나 기술적 혁신성이 인정되는 경우 무기체계 등의 획득 방법 및 절차를 별도로 정할 수 있게 하고 있다. 또한, 국방부장관등으로 하여금 관련 규제의 전부 또는 일부를 적용하지 아니하거나 관련 절차를 간소화함으로써 국방 인공지능의 신속한 전력화 및 군사적 활용을 지원하도록 하였다. 
제정안은 기술 및 데이터의 호환성 확보를 위하여 국방부장관등으로 하여금 국방 인공지능 기술, 국방 인공지능 학습용 데이터, 국방 인공지능 시스템의 상호운용성과 안전성 및 신뢰성 등에 관한 표준화 사업을 추진하고, 관련 표준을 보급하도록 하고 있다. 또한, 국방 인공지능의 성능 향상 및 신뢰성 확보를 위하여 국방부장관등으로 하여금 인공지능 학습데이터의 생산ㆍ수집ㆍ관리 및 공유 촉진을 위한 시책을 수립하도록 하였고, 학습데이터의 효율적 관리 및 품질 확보를 위한 전담 기관을 지정ㆍ운영할 수 있게 하였다. 국방부장관등으로 하여금 국방 인공지능 데이터센터의 구축 및 운영 활성화에 필요한 시책을 추진하도록 함으로써, 국방 인공지능 개발, 시험, 평가 및 활용에서의 원활한 데이터 사용을 도모하고 있다. 국방부장관등으로 하여금 무기체계 등에 적용 가능한 민간 인공지능 기술을 적극적으로 발굴ㆍ도입하고, 무기체계 등의 소요 결정 시부터 민간 인공지능 기술의 적용 여부를 검토ㆍ반영하도록 함으로써, 민간의 우수 기술을 적극 활용할 수 있는 기반을 마련하고 있다. 국방부장관등으로 하여금 국방 인공지능 분야의 전문 인력을 양성하고 확보하기 위한 시책을 수립ㆍ추진하도록 함으로써, 체계적인 인력 양성의 기반을 마련하였다. 또한, 국방부장관이 국방 인공지능기술과 시스템의 평가 및 검증 등에 필요한 시설, 장비, 소프트웨어를 구축하거나 지정하여 운영하고, 이에 필요한 사업을 계획ㆍ추진할 수 있게 함으로써, 국방 인공지능의 실증 기반을 조성하고 촉진하도록 하였다. 

셋째, 국방 인공지능 기술 운용상의 안전관리와 관련하여, 제정안은 국방 인공지능 개발ㆍ활용에 있어 자동화된 결정이 사람의 생명 또는 신체에 중대한 위해를 발생하게 할 우려가 있는 경우에는 인적 개입이 보장되어야 함을 명시함으로써, 책임 있는 인공지능 활용 원칙을 선언하고 있다. 제정안은 국방기술품질원 내에 국방인공지능 안전연구소를 설치하여 국방 인공지능의 안전성ㆍ신뢰성을 위한 연구, 지침 제공, 안전 인증 제도 설계 등을 수행하게 함으로써, 국방 인공지능 개발ㆍ운용의 안전성을 확보하도록 하였다. 또한, 국방부장관등에게 국방 인공지능 시스템의 안전성 확보를 위한 시책 추진 의무를 부과하고, 특히 전력 운용에 중대한 영향을 미치는 시스템에 대해서는 수명주기 전반에 걸친 위험관리 방안까지 마련하게 하는 등, 국방 인공지능 운용의 안전성을 보다 강화하도록 하고 있다.
 
기대효과와 대응방향

첫째, 인공지능 기반 무기체계는 하드웨어 중심의 전통적 무기체계와 기술적 속성 및 위험 요인이 상이하다. 기존 무기체계와는 별도의 도입ㆍ운용 및 안전성 확보 방식을 규율할 필요가 있고, 그 내용상 국가 안보 및 군사기밀과 밀접하게 관련될 가능성이 높다는 점에서 이에 관한 별도 법률 제정의 필요성이 제기되고 있었다. 따라서 제정안은 국방 분야를 포괄하지 못했던 기존 인공지능 법률의 공백을 메우고, 국방력 강화라는 특수 목적과 기술 발전 촉진, 그리고 안전성과 책임성 확보라는 가치를 조화시키기 위한 시도라는 점에 의미가 있다. 

둘째, 인공지능 기술은 발전 속도가 매우 빠르고 지속적인 성능 개선이 이루어지는 특성을 가지는 반면, 현행무기체계 획득 절차는 소요 결정부터 전력화에 이르기까지 통상 5년에서 10년 이상이 소요되는 구조인바, AI 기반 무기체계에 기존의 무기체계 획득 절차를 그대로 적용할 경우 개발 완료 시점에 이미 기술이 진부화되거나 급변하는 작전 환경에 대응하지 못하는 문제 등이 발생할 가능성이 있다. 따라서 인공지능 기반 무기체계 개발에 특화된 수단의 확보는, 인공지능 기술을 국방 분야에 활용하기 위해 필요한 것이다. 제정안이 마련하고자 하는 신속 획득 절차 특례, 규제 특례, 민간 기술 도입 등은 모두 이러한 수단을 확보하기 위한 것이며, 이 중 민간 기술 도입을 위한 신속 획득 절차 특례는 가장 중요한 요소 중의 하나가 될 것으로 보인다.
다만, 제정안은 신속 획득 절차 특례의 적용 요건을 시행령에 위임하고 있는데, 앞으로 인공지능을 적용한 무기체계 등의 획득이 국방분야 획득업무에서 예외가 아니라 원칙이 될 가능성도 있으므로, 어느 정도 수준의 인공지능 적용을 특례 적용 대상으로 볼 것인지에 대한 명확한 기준을 법률에서 제시할 필요가 있다. 더 나아가 방위사업법과 국방과학기술혁신법상 무기체계 획득절차와 상충되지 않도록 관련 법의 획득절차를 세부적으로 조화를 이루도록 체계화하거나 일원화하여 규정할 필요성도 있다. 한편, 제정안의 공식적인 주요 수범자는 국방부장관등이지만, 국방 인공지능 기술개발 촉진 수단에 관한 부분은 법률 제정 후 인공지능 기반 무기체계 개발에 참여하게 될 방위산업체와도 밀접하게 관련되어 있어, 인공지능을 도입ㆍ활용하고자 하는 방위산업체로서는 해당 부분에 관심을 가지고 제정안의 입법동향을 지속적으로 모니터링할 필요가 있다.

셋째, 무기체계는 그 성격상 사람을 살상하거나 신체에 중대한 위해를 가하기 위한 수단으로 활용될 가능성이 클 것이므로, 제정안이 국방 인공지능 개발ㆍ활용에서의 자동화된 결정에 대한 인적 개입 보장을 명시하면서 책임 있는 인공지능 활용 원칙을 제시한 것은 입법을 통한 적절한 규율방식으로 보인다. 다만, 인적 개입의 요건인 “중대한 위해”의 판단 기준이나 인적 개입의 방법ㆍ절차를 구체적으로 제시하지 않고 있어, 향후 신속한 판단이 요구되는 긴박한 전장 환경에서 인적 개입의 절차가 이미 인공지능에 의해 정해진 분석과 판단에 대한 형식적 승인에 불과한 일이 없도록 실효성 있는 인적 통제 방안을 법률에서 구체화할 필요가 있다.

최근의 전쟁 양상을 고려하면 국방 분야에서 전략 및 전술적 수단에 인공지능을 활용해야 하는 거대한 흐름을 부정할 수는 없을 것이다. 하지만 최근 자율무기 사용에 대한 인공지능의 활용범위와 관련하여 미국 국방부와 AI기업 간의 갈등에서 드러난 바와 같이 향후 국내에서도 무기체계의 사용에 인공지능을 구체적으로 어느 범위까지 활용할 것인지에 대한 윤리적 논쟁이 진행될 것으로 예상된다. 따라서 전쟁수단으로서 무기체계의 효율성에 치우친 무기의 사용으로 무제한적인 인공지능의 활용이 가져올 위험성과 이에 대한 윤리적 기준을 구체적으로 정립하고, 그 기준을 법률로 규정해야 할 것으로 보인다.

권기원 필진 주요이력 

▲ 경남대 극동문제연구소 초빙교수 ▲ 前​ 미국 우드로윌슨센터에서 객원연구원 ▲ 前 국회 국방위원회 전문위원 ▲ 前과학기술정보방송통신위원회 수석전문위원 ▲ 前 외교통일위원회 수석전문위원 ▲아주경제 로앤피 고문(아주경제 객원기자)  ▲법무법인 대륙아주(유한) 입법지원실장 ▲중앙대학교 의회학과 객원교수