AI 인프라 판 키운 과기정통부, 'GPU 활용 설계'가 과제

과기정통부, 민간 클라우드와 GPU 1만 3000장 확보

활용·배분이 더 중요한 시점…실질적 생태계 만들어야

[그래픽=아주경제]

국가대표 인공지능(AI) 사업자 선정 작업이 한창인 가운데 과학기술정보통신부(과기정통부)가 총 1만3000장에 달하는 엔비디아의 그래픽처리장치(GPU) 확보 사업자로 국내 클라우드 서비스업체 네이버, NHN, 카카오 3개사를 선정했다. 

29일 과기정통부의 GPU 사업에 참여한 네이버, NHN, 카카오의 향후 GPU 활용 계획에 업계의 관심이 집중되고 있다. AI 훈련을 위한 고가의 GPU를 구매하지 못해 발만 동동 구르던 연구기관, 대학, 스타트업 등에 큰 도움이 될 것으로 보인다. 

GPU는 대규모 데이터를 병렬 연산 방식으로 바르게 처리할 수 있어 AI 학습과 추론 과정에서 필수적 장비로 꼽힌다. 이번에 확보한 제품은 엔비디아의 최신 GPU인 B200과 H200이다. H200은 기존 H100 대비 메모리 대역폭과 처리 속도가 향상된 모델이다. B200은 블랙웰(Blackwell) 아키텍처를 적용해 초대형 AI 모델과 학습, 추론에 최적화돼 있다.  

이에 따라 과기정통부는 28일 추가경정예산 1조4600억원을 투입해 GPU 확보 사업을 본격화했다. 네이버, NHN, 카카오 등 세 기업은 엔비디아의 B200 1만80장, H200 3056장 등 총 1만3000여 장을 확보해 조달에 나선다. 

 

[그래픽=아주경제]

네이버는 총 3056장의 H200을 확보·구축한다. 전체를 현재 시장 주력 기종인 H200으로 구성한다. 네이버의 확보·구축분 중 과기정통부가 활용할 GPU는 H200 2296장으로 225노드(2040장), 32노드(256장)이다. 네이버는 이 자원을 클러스터링해 올해 산학연 등에 지원·배분할 방침이다.

NHN은 7565장의 B200을 확보·구축한다. 전체를 최신 GPU인 B200으로 구성해 친환경·고효율·고성능 방식으로 운용할 것으로 예상된다. 이 중 과기정통부가 활용할 GPU는 B200 6120장이다. B200 510노드(4080장), B200 255노드(2040장)으로 클러스트링 되어 활용될 계획이다. 

NHN은 이번 확보한 GPU를 기반으로 3사가 공동으로 이용할 수 있는 'GPU 인프라 통합포털'을 구축할 예정이다. 오는 2026년 1월 1일 베타서비스 개시를 목표로 사업을 추진한다. 

카카오는 총 2424장의 B200을 확보·구축한다. 이 중 과기정통부가 활용할 GPU는 B200 2040장이다. B200 255노드(2040장)로 클러스트링해 활용할 예정이며 이 역시 일부는 베타서비스를 추진할 방침이다. 

이처럼 기업들이 인프라 구축에 속도를 내는 가운데 전문가들은 GPU 자원의 배분도 함께 제시돼야 한다고 짚었다.

이성엽 고려대 교수는 "수요 기관에 일률적으로 나누기보다 성과 가능성과 실행 계획이 우수한 곳에 선별적으로 지원하는 것이 바람직하다"며 “기초 연구가 튼튼해야 이후 국내 AI 생태계는 물론 기초과학 전반의 발전에도 도움이 될 것”이라고 했다. 

업계에서도 이러한 취지에 공감하는 분위기다. 한 클라우드 업계 관계자는 "정부와 협력해 공공기관에는 상대적으로 낮은 요금으로 GPU 서비스를 제공할 계획"이라고 했다. 

결국 이 사업의 성패는 '얼마나 확보했는가'보다 '어떻게 활용할 것인가'에 달려 있다. 최병호 고려대 인공지능연구소 교수는 "미국이나 중국처럼 규모로 승부하기 어려운 한국은 이제 GPU 최적화와 효율적 활용 전략을 고민해야 할 시점"이라며 "들여온 GPU가 제조업뿐 아니라 스타트업 등 다양한 분야에서 실질적인 혜택을 줄 수 있는 생태계를 만들어야 한다"고 강조했다. 

그는 특히 이번 GPU 자원을 기반으로 어떤 AI 서비스를 구축할 것인지에 대한 업계의 고민이 필요하다고 덧붙였다. 최 교수는 "한국은 네이버, 카카오 등에서 실제 서비스를 만들어 본 경험이 있기 때문에 확보한 자원을 바탕으로 어떤 AI 서비스를 만들어낼지 구체적인 전략이 중요하다"고 말했다.