김명신 NHN 클라우드CTO "쉽게 쓰는 최고의 HPC·AI 인프라 제공하겠다"

SW와 하드웨어 결합한 AI 클라우드 쌍끌이 전락

NHN 광주 AI데이터센터에 그래프코어 IPU 적용

그래프코어 활용하는 오픈스택·HPC인프라 개발

국내 기업 AI 활용문턱 낮추는 생태계 조성·확장

김명신 NHN 클라우드부문 최고기술책임자 [사진=NHN클라우드 유튜브 갈무리]

NHN이 소프트웨어(SW)와 하드웨어를 결합한 '쌍끌이' 전략으로 인공지능(AI) 시대를 선도하기 위한 클라우드 데이터센터 구축에 나선다. 광주광역시 첨단3지구에서 추진되고 있는 '국가인공지능데이터센터' 사업에 차세대 AI 기술을 더 효율적으로 개발하고 활용할 수 있는 AI 반도체를 적용하고, NHN 클라우드 인프라에서 이 반도체의 성능을 극대화할 수 있는 오픈소스 기술을 함께 개발한다.

NHN은 25일 AI 반도체 기업 그래프코어와 기술 제휴를 기념하는 온라인 세미나를 열고, NHN의 클라우드 데이터센터에 AI 성능을 높여 주는 그래프코어의 '인텔리전트 프로세싱 유닛(IPU)'을 활용하는 기술 전략을 구체적으로 소개했다. 김명신 NHN 클라우드부문 최고기술책임자(CTO)가 '그래프코어와 만들어가는 최고의 인공지능 클라우드, NHN Cloud'라는 주제로 발표를 진행했다.

김 CTO는 "30~40년 전 핵심 알고리즘이 만들어졌지만 최근에 들어서야 다양한 분야에 AI를 폭넓게 사용하게 된 배경은, 대용량 데이터와 이를 처리할 대규모의 컴퓨팅 파워가 필요했기 때문"이라면서 "과거 데이터가 많지 않았고 이를 처리할 컴퓨팅 자원을 확보하기도 어려웠는데, 데이터 저장공간과 컴퓨팅파워를 제공하는 클라우드가 AI 기술을 현실화하는 기폭제 역할을 했다"라고 말했다.

그는 이어 "대용량 데이터를 처리할 때 그래픽처리장치(GPU)를 사용할 수 있었던 것이 매우 큰 변화로, 머신러닝 연산이 대부분 플로팅포인트로 구성되고 병렬처리가 가능해, 학습과 추론 과정에 GPU를 활용하면 높은 성능을 얻을 수 있다"라면서도 "하지만 AI 분야 역시 발전을 거듭하면서 과거에 충분하다고 생각했던 데이터 처리 속도와 컴퓨팅 자원이 충분하지 않게 됐다"라고 설명했다.

김 CTO는 "버트(BERT-LARGE)는 3억개, 오픈AI의 GPT-3는 1750억개의 파라미터와 연간 소비전력 150메가와트 수준으로 거대해졌고, 향후 AI 모델은 더 정밀한 추론을 위해 더 많은 파라미터를 요구하는 수준으로 발전할 것"이라며 "21세기 초 GPU가 도입됐듯, 앞으로 엄청난 크기의 모델 처리에 더 많은 메모리와 더 빠른 속도와 더 큰 소비전력이 필요한 문제를 해결해야 한다"라고 지적했다.
 

김명신 NHN 클라우드부문 최고기술책임자가 25일 온라인 세미나 발표를 통해 미래 AI 기술 운영을 위해 극복해야 할 기술 한계를 설명하고 있다. [사진=NHN클라우드 유튜브 갈무리]

NHN은 AI 반도체 IPU와 이를 쉽게 활용할 수 있는 SW 툴킷을 공급하는 그래프코어가 이런 문제를 함께 해결할 파트너라고 판단했다. 그래프코어는 최신 IPU에 고속 데이터 처리에 적합한 초당 45테라바이트의 대역폭과 7000여개의 독립 쓰레드 구동을 지원하는 높은 병렬성을 구현했고, 이런 하드웨어 성능을 AI 개발자가 쉽게 활용할 수 있는 개발도구(SDK)를 함께 제공한다.

김 CTO의 발표에 따르면 그래프코어 IPU 기반 시스템(IPU-POD64, 16x IPU-M2000)의 비용당 계산능력은 경쟁사인 엔비디아의 GPU 기반 시스템(3x DGX-A100, 24x A100) 대비 8배 이상의 저정밀도 연산, 7배 이상의 메모리, 2배 이상의 컴퓨팅 성능을 제공할 수 있는 것으로 나타났다. 그만큼 투자 대비 뛰어난 성능의 AI 인프라를 구축해 높은 운영 효율을 달성할 수 있다는 메시지다.

김 CTO는 "기술의 한계, 비용의 문제, 관리의 어려움으로 과거 감히 시도하기 어려웠던 일을 마음껏 해 볼 수 있는 클라우드를 만들겠다"라며 "그래프코어의 혁신적인 하드웨어, NHN의 뛰어난 개발 역량과 클라우드 인프라를 결합했을 때 고객에게 더 강력한 AI 인프라를 제공할 수 있을 것으로 생각했고, 이 점이 바로 NHN가 그래프코어와의 협약(MOU)을 통해 이루려는 목표"라고 밝혔다.

NHN은 그래프코어와 체결한 MOU에 따라 세 가지 분야의 기술 협력을 진행한다. 우선 NHN 클라우드 구축에 적용된 오픈소스 기술 '오픈스택' 환경에서 그래프코어의 AI 반도체 하드웨어를 운영할 수 있는 기술을 개발할 예정이다. 오픈스택 오픈소스 커뮤니티에 그래프코어가 제품화한 하드웨어와 관련된 기술을 개발해 기여하고 그래프코어 제품의 범용성을 확대할 계획이다.

다음으로 NHN 클라우드를 통해 제공될 HPC·AI 인프라를 그래프코어와 함께 개발한다. 최상의 HPC 환경을 제공할 수 있는 다양한 하드웨어와 SW 구성을 검토하고 테스트한다. 고효율 HPC 인프라 구축을 위해 중앙처리장치(CPU) 부하를 줄일 수 있는 네트워크와 고속 스토리지를 함께 확보하고, 이런 환경을 손쉽게 사용할 수 있는 플랫폼 수준의 서비스를 지원한다.

마지막으로 양사는 한국에서 AI 개발 관련 생태계 조성과 확장을 위해 함께 노력하기로 했다. 김 CTO는 "더 많은 기술 대중에게 AI 기술을 확산하고, 더 많은 회사가 좀 더 쉽게 AI를 활용할 수 있는 기술을 개발해나가겠다"라며 "어려운 기술을 손쉽게 쓸 수 있게 하는 것이 NHN의 장기이며, 이 과정에 그래프코어와 함께 더 강력한 AI 개발 생태계를 만들어갈 것"이라고 덧붙였다.
 

NHN·그래프코어 업무협약 체결식에서 양사 관계자들이 기념촬영을 하고 있다. (왼쪽부터) 최지웅 그래프코어 필드AI 엔지니어, 강민우 그래프코어 지사장, 백도민 NHN 클라우드 최고정보책임자, 김동훈 NHN 클라우드 전무. [사진=NHN클라우드 유튜브 갈무리]