SKT·리벨리온과 손잡은 엔비디아...한국형 소버린 AI 인프라 구축나서

9일 엔비디아 AI 데이 행사서 3사 MOU 체결…국산 NPU·엔비디아 GPU 연계

과기정통부·엔비디아 NV링크 퓨전 협력 일환

SK텔레콤과 리벨리온이 엔비디아와 9일 업무협약을 체결하고 한국형 소버린 AI 인프라 구축에 나선다. 사진은 (왼쪽부터) 박성현 리벨리온 대표, 정석근 SKT CTO, 이도규 과학기술정보통신부 정보통신정책실장, 아쉬시 카란디카르 엔비디아 부사장이 기념 촬영하고 있는 모습[사진=SK텔레콤]

SK텔레콤(SKT)과 리벨리온이 엔비디아와 손을 잡고 한국형 소버린 AI 인프라 구축에 나선다. GPU와 신경망처리장치(NPU)를 연동한 통합 컴퓨팅 시스템을 개발해 추론 성능을 높이고 전력 소비를 대폭 줄인다는 구상이다.

과학기술정보통신부는 9일 서울 코엑스에서 열린 '엔비디아 AI 데이' 행사에서 3사가 이 같은 내용의 업무협약(MOU)을 체결했다고 밝혔다. 이번 협약은 과기정통부와 엔비디아가 논의해 온 NV링크 퓨전 기반 국산 NPU 연계 사업의 일환으로 추진됐다.

3사는 엔비디아의 NV링크 퓨전 기술을 활용해 이기종 AI 컴퓨팅 시스템을 구축한다. 리벨리온이 개발 중인 차세대 NPU 'R200'을 엔비디아의 NV링크 퓨전으로 연결하고, 엔비디아의 서버 랙 표준 규격인 엠지엑스(MGX)를 적용해 서버 랙 단위의 GPU·NPU 통합 시스템을 완성할 계획이다.

최근 AI 산업의 무게중심이 모델 개발에서 추론으로 이동함에 따라, AI 데이터센터(AIDC)의 전력 효율과 비용 절감이 핵심 과제로 떠올랐다. 이에 3사는 프리필(질문 분석)과 디코드(답변 생성)로 나뉘는 추론 과정을 서로 다른 반도체에 맡기는 '분리형 추론' 방식을 적용한다.

계산량이 많은 프리필 단계는 고성능 엔비디아 GPU가, 순차적 답변을 만드는 디코드 단계는 리벨리온 NPU가 담당해 연산 처리 속도와 전력 효율을 극대화한다는 전략이다.

정석근 SKT 최고기술책임자(CTO)는 "GPU와 NPU의 강점을 결합해 추론 성능과 전력 효율을 높이는 한국형 소버린 AI 인프라의 가능성을 검증한다는 데 의미가 있다"고 설명했다.

과기정통부 역시 소버린 AI 및 국산 AI 반도체 육성 정책에 맞춰 공공·민간 전반으로 인프라 생태계를 확장할 방침이다. 이도규 과기정통부 정보통신정책실장은 "국산 NPU 기업들이 글로벌 시장에 도전하고 성공할 수 있도록 생태계 조성을 지속 지원하겠다"고 강조했다.