에이전틱 AI 시대 GPU 시장 재편 본격화...탈엔비디아가 韓 반도체 호재

구글 로고 [사진=연합뉴스]

구글이 연례 기술 컨퍼런스에서 역대 최고 성능의 인공지능(AI) 전용 반도체를 공개하며 엔비디아 독주 체제에 정면 도전장을 내밀었다. AI 가속기 시장 재편 흐름이 가속화할수록 해당 칩의 핵심 메모리를 독점 공급하는 삼성전자·SK하이닉스의 수혜가 커질 것이라는 분석이 나온다.
 
23일 IT업계에 따르면 구글 클라우드는 22일(현지시간) 미국 라스베이거스에서 열린 '구글 클라우드 넥스트 2026'에서 8세대 텐서처리장치(TPU) 2종을 공개했다. 학습용 'TPU 8t'와 추론용 'TPU 8i'로, 두 제품 모두 연내 정식 출시될 예정이다.
 
TPU는 구글이 브로드컴과 공동 설계한 AI 특화 주문형 반도체(ASIC)다. 범용 그래픽처리장치(GPU)와 달리 AI 연산에만 최적화해 전력 효율이 높다는 평가를 받는다.
 

이번 8세대 TPU의 핵심은 학습과 추론을 처음으로 분리한 설계다. 구글이 2015년 TPU를 처음 출시한 이후 11년 만의 구조적 전환이다.
 
학습용 TPU 8t는 최대 9600개 칩을 단일 시스템에 연결하는 '슈퍼포드' 구조를 갖췄다. 포드당 121 엑사플롭스(1초에 100경 번 연산)의 성능을 제공하며, 전 세대 대비 학습 속도는 3배 빨라졌다. 전력 효율도 2배 향상됐다. 패스웨이(Pathways) 플랫폼을 통해 100만 개 이상의 TPU를 하나의 클러스터처럼 묶을 수 있어 초대형 AI 모델 개발 기간을 수개월에서 수 주 단위로 단축할 수 있다고 구글은 설명했다.
 
추론용 TPU 8i는 에이전틱 AI 특수에 더 직접적으로 대응한다. 7세대 대비 9.8배 향상된 성능을 갖추고 있으며, 전 세대 대비 3배 이상 늘어난 384MB 온칩 SRAM과 288GB 고대역폭 메모리(HBM)를 탑재했다.
 
다만 시장의 시각은 다르다. 구글 TPU의 AI 가속기 시장 점유율은 약 5%에 불과하다. 엔비디아의 GPU 시장 점유율은 현재 92%에 달한다. 차세대 플랫폼 '베라 루빈'은 이미 양산에 들어간 상태로 올해 하반기 상용 출시를 앞두고 있다.
 
그러나 시장 환경은 구글에 유리하게 돌아가고 있다. 엔비디아 GPU 공급 부족이 장기화되면서 비용 효율이 높은 대안 가속기를 찾는 기업 고객의 수요가 증가하는 추세다. 아마존웹서비스(AWS)도 학습용 '트레이니엄', 추론용 '인퍼렌시아' 등 자체 AI 특화 가속기를 앞세워 엔비디아 의존도를 낮추는 전략을 동시에 펼치고 있다. 헤지펀드 시타델은 구글 TPU를 활용한 퀀트 리서치 소프트웨어를 구축했고, 미 에너지부 산하 17개 국립연구소도 TPU 기반 AI 공동과학자 소프트웨어를 운용 중이다.
 
이 같은 흐름에서 국내 반도체 기업의 수혜가 주목된다. TPU 한 개에는 6~8개의 HBM이 탑재된다. 현재 구글 TPU용 HBM 공급은 삼성전자·SK하이닉스 양강 구도로 굳혀진 상태다.
 
엔비디아 GPU 공급망에서는 삼성·SK하이닉스·마이크론 3사가 경쟁했지만, TPU 진영에서는 마이크론이 생산능력 부족으로 사실상 탈락했다. 업계는 8세대 TPU에는 6세대 HBM인 HBM4가 탑재될 것으로 예상하며, 삼성전자의 구글향 HBM 공급 물량이 올해 대비 2배 이상 증가할 것으로 전망했다. SK하이닉스는 현재 구글의 우선 공급사로서 HBM3E를 납품 중이며, 전력 효율을 개선한 TPU 7e용 HBM3E 12단은 독점 공급하는 것으로 알려졌다.