"데이터 유출 없는 AI 강국으로"…서울대-재경부, 국방·제조 결합한 '프라이빗 AI 생태계' 청사진 제시

서울대 10-10 Private AI Initiative·재경부 전략경제자문단, 7일 공동포럼 개최

"단순 기술 도입 넘어 현실 산업·안보 잇는 'AI 2막' 주도권 확보"

하드웨어 납품 벗어나 'AX 풀스택' 전환…소부장·SW 중소벤처 중심의 독자 수출 생태계로 부국강병

결함 검사·설비 진단 등 현장 맞춤형 AI 확산…"문제를 AI 언어로 재정의, 전문가 협업 절실"

"열지 않고 연산한다"…동형암호 기반 프라이빗 AI와 '허브앤스포크' 국가데이터 연계 인프라 시급

서울대학교 10-10 Private AI Initiative와 재정경제부 전략경제자문단은 7일 오후 서울대 상산수리관 강당에서 학계·정부·군·산업계 주요 관계자들이 참석한 가운데 ‘AI 시대의 국방+제조+보안’ 포럼을 공동 개최했다. 이날 참석자들이 발제 세션에 앞서 기념 촬영을 하고 있다. [사진=김준환 기자]

인공지능(AI)이 단순한 알고리즘 경쟁인 ‘1막’을 지나, 공장 설비를 제어하고 전장의 의사결정을 바꾸는 ‘2막(현실 물리세계와의 결합)’으로 진입한 가운데, 국가 핵심 전략 분야인 국방과 제조, 그리고 이를 안전하게 묶어낼 차세대 암호·보안 기술을 융합한 ‘국가 프라이빗 AI 생태계’ 전략이 공개됐다.

서울대학교 10-10 Private AI Initiative와 재정경제부 전략경제자문단은 7일 오후 서울대 상산수리관 강당에서 학계·정부·군·산업계 주요 관계자들이 참석한 가운데 ‘AI 시대의 국방+제조+보안’ 포럼을 공동 개최했다.

이날 포럼의 화두는 ‘데이터를 노출하지 않고 활용하는 신뢰 기반의 프라이빗 인프라 구축’이었다. 데이터가 유출되거나 오염될 경우 치명적 타격을 입는 국방과 제조 영역에서, 암호화 컴퓨팅 기술을 기본 인프라로 결합해 진정한 ‘AI 3대 강국·방산 4대 강국’으로 도약하자는 청사진이다.

박영선 재경부 전략경제자문단 위원장(전(前) 중소벤처기업부 장관)은 개회사를 통해 “지난 몇 년간이 생성형 AI가 무엇을 할 수 있는지 확인한 ‘AI 1막’이었다면, 이제 시작된 ‘AI 2막’은 ‘AI를 어디에 연결하고, 어떻게 현실 세계를 움직이게 할 것인가’를 묻고 있다”며 “AI가 제조를 바꾸고, 제조가 국방의 경쟁력을 만들며, 보안이 이 모든 AI 생태계의 신뢰를 지키는 상호불가분의 연결 구조를 가져야 한다”고 강조했다. 이어 박 위원장은 “AI 시대의 국가 경쟁력은 기술 하나가 아니라 반도체·전력·데이터·보안을 엮어내는 국가 차원의 ‘전략경제’에서 나온다”며 “AI로 국방과 제조, 보안을 융합해 설계하는 선도 국가로 나아가야 한다”고 밝혔다.

박영선 재정경제부 전략경제자문단 위원장(전(前) 중소벤처기업부 장관)이 개회사를 하고 있다. [사진=김준환 기자]

김주한 서울대 연구부총장은 환영사에서 “인공지능(AI) 시대의 국가 경쟁력은 단순한 연산 인프라 확충에 그치지 않고 ‘민감 데이터의 유출 없는 안전한 활용’에 달려 있다“고 강조했다. 김 부총장은 글로벌 방산 AI 선도 기업을 언급하며 “인공지능이 전 산업으로 매우 널리 확산되고 있으며, 글로벌 기업 팔란티어(Palantir)와 같은 모델이 시장의 화두로 떠오르고 있다”며 “AI 경쟁력은 단순히 더 빠르고 거대한 컴퓨팅 파워만으로 결정되는 것이 아니다. 실제 현장에서 양질의 데이터를 체계적으로 확보하고, 이를 외부 유출 없이 철저히 검증할 수 있는 ‘안전성’을 확보해야만 국가 산업과 미래 경쟁력을 좌우하게 될 것”이라고 전했다.

이어 김 부총장은 “서울대는 수학, 인공지능, 정책과 산업의 경계를 과감히 허물고 민감한 국가·산업 데이터를 안전하게 다룰 수 있는 핵심 원천 기술을 집중 연구해 왔다”며 “앞으로도 국가 전략기술 연구와 실질적인 산학연 협력의 중심에서 누구도 흔들 수 없는 ‘신뢰할 수 있는 인공지능’의 표준을 제시하고, 정책 과제 도출과 새로운 혁신 생태계 조성에 앞장서겠다”고 밝혔다.

김주한 서울대 연구부총장이 환영사를 하고 있다. [사진=김준환 기자]

[방산 세션] “단품 무기 수출 한계 봉착…‘AX 풀스택’과 소부장·SW 중소벤처가 미래”

​​​​​​​방산 세션에서는 K-방산이 직면한 하드웨어 중심 수출의 벽을 진단하고, 소프트웨어와 AI 중심의 초신속 생태계로 체질을 전환해야 한다는 제언이 나왔다.

손대권 인하대 물류AX센터장(전(前) 육군군수사령관)은 ‘국방 AX 전략과 방위산업의 미래’라는 주제 발표를 통해 “현재 K-방산은 수주 잔액 100조 원을 바라보지만, 단품 하드웨어 완성품 수출은 조만간 글로벌 수요와 지정학적 견제로 한계에 봉착할 것”이라고 경고했다. 손 교수는 이스라엘-이란전에서 AI 시스템이 2주 만에 1만 5000개의 표적을 식별해 낸 사례를 들며 “전장의 룰은 이미 소프트웨어와 데이터로 재편됐다”고 짚었다. 

특히 손 교수는 ‘하드웨어 공급자’에서 독자적인 OS와 솔루션을 제공하는 ‘생태계 설계자’로의 전환을 강조했다. 그는 “무기체계(방아쇠)와 국방 AI(머리)가 따로 노는 병목을 깨기 위해서는 인프라·데이터·모델·서비스를 하나로 묶는 ‘국방 AX 풀스택(Full Stack)’ 생태계가 구축돼야 한다”며 “이를 바탕으로 무기 수출 이후에도 AI 업데이트와 지능형 MRO(유지보수)를 지속 제공해 동맹국을 우리 생태계에 락인(Lock-in)시키는 ‘수출 2.0’ 구조를 만들어야 한다”고 주장했다. 이를 뒷받침할 4단계 성장 사다리(R&D→PoC 정부구매→신안보펀드→글로벌스케일업) 제도 혁신도 함께 주문했다.

이어 원준희 방산중소벤처기업협회장은 ‘방산 소부장AI 수출을 위한 중소벤처기업 생태계 조성’을 주제로 소부장·SW 혁신 방안을 제시했다. 원 대표는 “국내 방산 기업의 88%가 중소기업이지만 매출 비중은 18%에 불과하며, 수출의 96%를 소수 대기업이 독점하고 있다”며 대기업 편중의 하청 구조를 지적했다.

원 대표는 체계종합 대기업에 종속되지 않고 글로벌 밸류체인(GVC)에 독자 진출하는 4대 정책 해법과 기대효과에 대해 설명했다. 그는 “국제 표준과 인증을 획득한 방산 소부장·SW는 특정 대형 수주 성패와 상관없이 전 세계 무기체계에 범용으로 납품될 수 있다”며 △중소벤처 전용 R&D 트랙(70% 배정) 신설 △국제표준·인증 허브 구축 △성장단계별 GVC Biz 기업인증제 △정부 용역 SW 지식재산권의 개발사 귀속을 촉구했다. 

원 대표는 “이러한 제도 혁신이 완비될 경우 방산 중소기업 매출 비중이 30% 이상으로 확대되고, 1114조 원 규모의 글로벌 소부장 시장에서 56조 원(5%)을 국산화·수출해 국가 방산수출 규모를 60조 원까지 끌어올리는 강력한 ‘부국강병(富國強兵)’의 결실을 맺을 것”이라고 말했다.

[제조 세션] 4%대에 머문 제조 AX…“현장 문제를 AI 언어로 재정의해야”

​​​​​​​제조 세션에서는 국가 기반 산업인 제조업의 생산성 혁신을 위한 인공지능 실증과 한계 돌파 전략이 다뤄졌다.

윤종필 한국생산기술연구원 제조AI연구센터장은 ‘제조 현장의 AI 도입: 어려움과 해결 방향’이라는 주제로 현재 국내 제조업의 AI 도입률이 4.0%에 머물러 있는 현실을 짚었다. 윤 센터장은 금융·서비스업 대비 제조업의 낮은 AI 노출도(0.26), 중소 제조기업 68.9%가 1억 원 이하의 투자 여력만을 갖는 초기 비용 부담, 레거시 시스템 호환성 결여, 49.2%에 달하는 전문인력 채용 부담을 핵심 병목으로 꼽았다.

윤 센터장은 반도체 CMP 공정 세정 설비의 진동 신호 기반 미세 기울어짐 진단, 의료용 카테터 튜브 불량 검사, 다중 로봇 모니터링 등 생기원의 첨단 실증 사례를 소개하며, “제조 AI 성공의 열쇠는 ‘현장 문제를 AI가 풀 수 있는 문제로 재정의(Re-defining)’하는 데 있다”고 밝혔다.

이어 그는 “제조 AI는 고도화된 모델 하나만으로 작동하지 않는다”며 “도메인 지식을 갖춘 ‘현장 데이터 전문가’, 신경망과 특성을 설계하는 ‘AI 모델 전문가’, 기존 공장 시스템(MES·ERP 등)과 결합하는 ‘AI 시스템 전문가’ 등 3자 협업 체계가 유기적으로 맞물려야만 비로소 공정 최적화와 예지보전의 경제적 가치를 창출할 수 있다”고 제언했다.

[보안 세션] “암호화 컴퓨팅이 국가 인프라 기본값 돼야…범정부 안전 연계 즉각 복원 필요”

​​​​​​​국방과 제조 현장에 AI가 깊숙이 침투할수록 가장 결정적인 전제조건으로 떠오르는 것이 바로 ‘보안’이다. 보안 세션에서는 원본 데이터를 노출하지 않고 연산하는 동형암호(HE)와 프라이머리 데이터 보호 기술(PETs)을 국가 인프라로 안착시켜야 한다는 주장이 집중 조명됐다.

천정희 서울대 수리과학부 교수(크립토랩 대표·10-10 Private AI Initiative 주임교수)는 ‘암호화 컴퓨팅과 AI 보안’ 발제에서 “기존 보안 체계의 치명적 허점은 메모리에 올려 데이터를 계산할 때 암호가 풀리는 ‘사용 중(In-Use) 데이터’에 있다”고 지적했다. 제조 현장의 공정 암묵지와 방산 기밀 데이터는 외부 유출 시 곧바로 기업과 국가의 존폐로 이어지기 때문에 적극적 공유가 원천 봉쇄돼 왔다는 게 천 교수의 설명이다.

천 교수는 복호화 없이 SQL 검색과 AI 학습을 수행하는 동형암호 검색 기술(HEracles)과 실증 성과를 공개하며 “보호하면서 활용하는 암호화 컴퓨팅을 국가 AI 인프라의 ‘기본값(Default)’으로 설정해야 한다”고 말했다. 또 천 교수는 “동형암호는 더 이상 이론 속 기술이 아니며, 이미 국방 실험사업과 경찰청 치안 데이터, 한국형 Manufacturing-X 플랫폼에서 실증을 마쳤다”면서 “AI의 힘은 데이터를 연결하는 데서 나오지만, 국가의 신뢰는 데이터를 열지 않는 데서 나온다. 국방·제조·치안을 아우르는 보안 계층을 국가 공통 기반으로 설계해 조달·표준으로 신속히 확산해야 한다”고 촉구했다.

이어 류근관 서울대 경제학부 명예교수(제18대 통계청장)는 ‘국가데이터 안전 연계체계(Hub & Spokes)와 보안’을 주제로 통계·행정 데이터의 융합 방안을 발표했다. 류 교수는 “증거 기반의 정밀 정책을 수립하려면 종적·횡적 데이터 결합이 필수적인데, 위험을 피하겠다고 자료를 차단하는 것은 정책의 증거를 스스로 없애는 잘못된 해법”이라며 중앙 통계등록부(허브)와 각 부처·기관(스포크)이 원본 노출 없이 연결되는 ‘허브앤스포크’ 모델을 제시했다.

류 교수는 특히 국제적으로 공인받은 프라이버시 강화 기술(PETs: 동형암호·차분정보보호·재현자료) 기반 안전 연계 R&D 본사업의 즉각적인 재개를 촉구했다. 그러면서 류 교수는 “한국 통계청의 동형암호 결합 파일럿은 이미 2023년 UN PET 가이드에 수록되고, 독일 연방노동사회부 보고서 및 영국 과학혁신기술부 저장소에 모범 혁신 사례로 공인받았다”고 밝혔다.

류 교수는 “이미 글로벌 실증을 끝내고 완성 단계에 이른 암호 연계 체계를 두고 또다시 정보화전략계획(ISP)을 되풀이하는 것은 심각한 시간 낭비이자 국가경쟁력 후퇴”라며 “예산 삭감으로 중단 위기를 맞았던 실증 R&D를 국가데이터처 중심의 본사업으로 즉각 전환하고 시범 구축을 서둘러야만 AI 시대 데이터 주권과 정책 품질을 동시에 지켜낼 수 있다”고 말했다.