AI칩 경쟁 불붙었다…업계는 탈 엔비디아 속도

TPU 기반 제미나이 성능 '탁월'…메타·엔트로픽, TPU 도입 검토

카카오, 카나나 학습에 이미 활용…국내 NPU 산업 활성화 '기대'

[사진=로이터연합뉴스]

엔비디아의 그래픽처리장치(GPU) 독점 체제가 흔들리고 있다.구글의 제미나이3가 압도적인 성능을 과시하며 텐서처리장치(TPU)에 대한 관심이 집중되고 있다. 메타가 TPU 도입을 검토중이고 카카오도 카나나 개발에 TPU를 활용했다는 점이 부각되며 AI 업계의 전용칩 경쟁이 본격화 할 것으로 보인다. 

26일 글로벌 빅테크 기업 메타와 AI 챗봇 클로드를 운영하는 앤트로픽이 AI 학습에 구글의 TPU를 사용할 계획이다. 메타는 2027년 가동 예정인 데이터센터에 구글의 TPU를 직접 공급 받아 사용하는 방안을 검토 중이다. 엔트로픽은 지난달 구글의 TPU 100만개를 탑재한 클라우드 이용 계약을 체결한 바 있다.

범용적인 작업을 수행하는 GPU와 달리, TPU는 AI 핵심 연산인 추론 과정과 딥러닝 학습에 최적화했다. 핵심 업무만 수행해 전력 효율성이 높고, 비용도 저렴하다. 구글이 최근 공개한 7세대 TPU '아이언우드'는 하나의 시스템에 칩 9216개를 연결할 수 있다. 대규모 모델 훈련, 강화학습, 대용량·저지연 AI 추론 등에 최적화됐다. 7세대는 지난해 출시한 6세대 '트릴리움' 대비 4배, 2023년 공개한 4세대 대비 최대 10배의 성능을 구현한 것으로 알려졌다. 

카카오는 AI 앱 카나나 개발에 TPU를 활용 중이다. 카카오는 지난해 10월 AI 모델을 ‘카나나’로 새롭게 브랜딩하면서 카나나 모델 개발에 6세대 TPU '트릴리움'을 사용하기 시작했다. 카카오 관계자는 "카카오 자체적으로도 여러 AI 연구를 위해 GPU를 확보해서 운영하고 있는데 필요한 성능을 넉넉하게 확보하는 것이 쉽지 않았다"면서 "모델 설계 과정에서 GPU 부족 문제를 해결하는 데 TPU가 하나의 대안이 됐다"고 밝혔다. 

TPU의 성능이 입증되면서 국내 신경망처리장치(NPU) 개발에도 탄력이 붙을 것으로 기대된다. 초기에 방대한 데이터를 빠르게 학습하기 위해 GPU가 필수적이지만, 향후 AI 서비스 확산 시점엔 비용효율성이 높은 NPU 수요가 커질 것이란 전망이다. 

하정우 대통령실 AI미래기획수석은 지난달 31일 엔비디아 GPU 공급 브리핑에서 "많은 GPU가 필요한 것이 현실이지만 국내 AI 반도체 내재화 역량을 키우는 투트랙 정책을 진행해야 한다"며 "확보한 GPU로 강력한 AI를 만들고 이를 운영할때는 국내 기업들이 개발한 NPU의 역할이 더 중요해질 것"이라고 말했다.