[Tech in Trend] 현실화된 글로벌 AI 반도체 공급 부족..."정부·클라우드 기업 해법 찾아야"

AWS·MS·구글 등 글로벌 클라우드에 우선 배정

점유율 97% 엔비디아 물량 제때 공급 못해...인도에 2~3개월 기간 더 늘어날 듯

AI 반도체 확보가 국가 AI 경쟁력 좌우...2위 업체 접촉·국산화 등 고려해야

국가 AI센터 조감도 [사진=인공지능산업융합사업단]

챗GPT, GPT-4 등 초거대 언어모델(LLM) 열풍으로 인해 인공지능(AI) 반도체 공급 부족 문제가 현실화하고 있다. AI 반도체가 아마존웹서비스(AWS)·마이크로소프트·구글 등 글로벌 클라우드 업체로 우선 공급되고 있는 상황에서 이들 클라우드 업체는 고객사에 관련 수요 폭증으로 인해 AI 반도체 공급 시기를 한 달 이상 연기한다고 통보했다. AI 모델을 개발하고 관련 서비스를 출시하려는 국내 기업과 스타트업에도 비상등이 켜졌다.

◆MS "빙·오피스에 AI 반도체 우선 공급, 다른 부서는 나중에"

9일 반도체 업계에 따르면 미국 IT 매체 디인포메이션은 지난 7일 'AWS·마이크로소프트·구글 서버 부족으로 어려움을 겪는 AI 개발자' 기사를 통해 주요 클라우드 업체가 AI 열풍으로 인해 AI 반도체가 부족함에 따라 일제히 관련 공급을 제한했다고 보도했다. 보도에 따르면 클라우드에 AI 반도체 수요를 기대고 있던 기업과 스타트업들은 관련 하드웨어를 대여하기 위해 한 달 이상 기다려야 하는 상황이다.

AI 반도체가 부족한 이유는 점유율 97%로 관련 시장을 독점하고 있는 엔비디아가 AI 반도체를 시장이 요구하는 만큼 제때 공급하지 못하고 있기 때문이다. 디인포메이션은 "현재 엔비디아가 주문받은 AI 반도체를 기업에 전달하는 데 2~3개월 정도 시간이 걸리고 있으며 이 기간도 점점 더 늘어날 것"이라며 "클라우드 사업자도 AI 반도체 수요를 과소평가해 공급 부족을 초래했다"고 보도했다.

실제로 반도체 업계에 따르면 엔비디아는 지난해 공개한 차세대 AI 반도체 'L40'과 'L4'를 시장에 풀지 않고 전량을 AWS·마이크로소프트·구글 등 글로벌 클라우드 업체와 일부 파트너사에만 공급했다. 엔비디아와 공급 계약을 맺지 못한 기업은 AI 모델 학습·추론 성능이 상대적으로 떨어지는 구형 AI 반도체  또는 1개당 5000만원에 달하는 초고가 AI 반도체를 구입해야 한다. 

AI 모델을 개발해서 서비스를 상용화하려던 국내 IT 기업과 스타트업들은 당장 발등에 불이 떨어졌다. 클라우드 기업만 믿고 AI 반도체로 구성된 자체 딥러닝(인공신경망) 서버를 구축하지 않았는데 관련 하드웨어 인프라를 제때 확보하지 못하면 AI 모델 개발과 서비스 상용화에 차질을 피할 수 없기 때문이다.

심지어 엔비디아 AI 반도체를 독점 공급받는 클라우드 업체들도 물량 부족에 시달리고 있다. 디인포메이션에 따르면 마이크로소프트는 GPT-4 기반 언어 모델과 오피스를 결합한 '마이크로소프트 365 코파일럿' 서비스를 연내에 출시할 계획이지만 해당 서비스에 필요한 AI 반도체 부족으로 인해 상용화 시점을 재점검하고 있다. 이에 마이크로소프트는 자사가 보유한 AI 반도체 물량을 GPT-4 기반 빙 챗봇(빙GPT)과 코파일럿 개발에 우선 할당하고 다른 부서가 AI 반도체를 이용하는 것을 제한했다. 전 세계 최대 AI 반도체팜을 보유한 마이크로소프트가 AI 반도체를 자사 사업부에 우선 제공함에 따라 마이크로소프트 클라우드(애저)에서 AI 서비스를 하려던 고객들이 제때 AI 반도체를 공급받지 못하는 문제에 직면할 수도 있다고 디인포메이션 측은 지적했다.

◆AI 반도체 공급난 연말에는 더 심해져···엔비디아 대안 없는 게 문제

문제는 이러한 AI 반도체 공급난이 점점 심화될 것이라는 점이다. AI 반도체 수요를 견인하고 있는 초거대 언어모델 시장은 이제 막 기지개를 켠 상황이다. 지금은 미국이 시장을 선도하고 있지만 곧 한국·중국·일본·유럽 등에서도 현지에 특화한 다양한 언어모델이 등장할 전망이다. 생성 AI는 현재 이미지 생성 수준에 머무르고 있지만 올 하반기부터는 영상 생성도 가능해지면서 기업 현업에 본격적으로 활용될 것으로 예상된다. 이에 전문가들은 올 하반기부터 전과 비교할 수 없을 정도로 AI 반도체 수요가 급증할 것으로 우려하고 있다.

상황이 이런데도 엔비디아의 AI 반도체 시장 독점은 당분간 견고할 것으로 전망된다. 엔비디아 AI 반도체 하드웨어 성능이 경쟁사보다 뛰어난 데다 시중의 모든 트랜스포머 계열 언어 모델과 생성 AI가 모델과 AI 반도체를 연결해주는 엔비디아 쿠다(CUDA) 라이브러리에 최적화돼 만들어졌기 때문이다. 트랜스포머는 챗GPT 등 현재 초거대 언어모델의 원천 기술이다. 트랜스포머 언어 모델 전용 가속 기능을 갖춘 것도 엔비디아 AI 반도체가 유일하다. 

반면 AMD·그래프코어 등 다른 회사 AI 반도체에서 트랜스포머 모델과 생성AI를 학습·추론하면 엔비디아 대비 절반 이하 성능만 나오는 게 현실이다. 일례로 이미지 생성 AI의 대표주자인 '스테이블 디퓨전'은 AMD AI 반도체에서 이미지를 만들면 동급 엔비디아 AI 반도체보다 2배 이상 시간이 걸리며 전력 소모는 3배 이상 심한 것으로 알려졌다. 
 

[사진=아주경제DB]

◆정부·기업 차원 AI 반도체 확보 나서야···2위 물량 확보, 국산화 등 대안

AI 업계에선 국내 AI 산업 생태계 발전을 위해 클라우드 기업과 정부 차원에서 AI 반도체 수급을 위한 대책 마련이 필요하다고 입을 모은다. 실제로 미국을 빠르게 추격하던 중국 기업의 AI 기술력은 지난해 바이든 행정부가 엔비디아 AI 반도체 A100·H100 수출 금지 명령을 내리자 큰 타격을 입고 초거대 AI 상용화에 많은 애를 먹고 있다. 

현재 국내에서 AI 반도체를 클라우드로 제공하는 기업은 네이버클라우드와 KT클라우드뿐이다. 이들 기업은 AI 반도체를 수천 장 확보했지만 AI 반도체를 수만에서 수십만 장 갖춘 글로벌 클라우드와 비교하면 아직 가야 할 길이 멀다. 엔비디아 H100·L40·L4 공급을 위한 협상은 이제 막 초기 단계다. 게다가 두 기업은 사내와 모회사에서 '하이퍼클로바X'와 '믿음'이라는 자체 초거대 AI를 개발하고 있어 (마이크로소프트처럼) 향후 확보하는 엔비디아 AI 반도체 물량을 자사 위주로 배정할 가능성도 일부 있다.

정부는 K-클라우드 사업을 통해 국산 AI 반도체팜을 클라우드 업체 데이터센터와 광주 국가AI센터에 구축하고 이를 외부에 공개하는 정책을 추진 중이지만 이제 막 시작했고 아직 규모도 작다. AI 서비스 업체가 자사 AI 모델을 국산 AI 반도체에 맞게 최적화해야 하는 난관도 남아 있다.

AI 스타트업 관계자는 "해외 클라우드 업체에서 AI 반도체를 조달하는 게 어려워지고 있는 만큼 국내 클라우드 업체들이 최신 엔비디아 AI 반도체를 빠르게 수급해서 클라우드로 공급해주었으면 한다"며 "이것이 현실화되면 AI 스타트업이 서비스 근간을 AWS·마이크로소프트·구글에서 네이버·KT클라우드로 옮기는 사례도 함께 늘어날 것"이라고 말했다.

이어 "최악에는 (1위와 많은 격차가 있지만) 2위 사업자인 AMD AI 반도체를 우선 확보하는 방안도 고려할 필요성이 있다"고 덧붙였다.

다행히 과학기술정보통신부와 광주광역시가 설립한 인공지능산업융합사업단(AICA) 주도로 진행하는 AI 데이터센터 사업이 국내 AI 스타트업에는 가뭄에 단비가 되어주고 있는 것으로 알려졌다. AI 데이터센터는 광주 국가AI집적단지에 구축한 AI 데이터센터에서 엔비디아 AI 반도체를 상면(코로케이션) 형태로 기업과 스타트업에 임대해주는 공공 사업이다. 업계에선 AI 스타트업을 위해 해당 사업 규모를 더 확대할 필요성이 있다고 강조하고 있다.

AI 챗봇을 만드는 우종하 레플리 대표는 "AI 데이터센터 사업에 선정돼 엔비디아 AI 반도체(A100) 4장을 할당받았다"며 "작은 스타트업이라 자원이 항상 부족했는데 이 덕분에 딥러닝 모델 개발에 큰 도움이 되고 있다. 어려운 상황이지만 더 열심히 해보겠다"고 소감을 밝혔다.