오픈AI, 자체 AI칩 '할라페뇨' 공개…엔비디아 의존 낮춘다

샘 올트먼 오픈AI 최고경영자(CEO)와 호크 탄 브로드컴 CEO가 새 AI칩 '할라페뇨' 시제품 웨이퍼를 들어보이고 있다. [사진=연합뉴스]

오픈AI가 브로드컴과 공동 개발한 첫 자체 설계 인공지능(AI) 칩 ‘할라페뇨(Jalapeño)’를 공개했다. 챗GPT와 코덱스 등 AI 서비스 운영에 필요한 추론 비용을 낮추고, 엔비디아 그래픽처리장치(GPU) 의존도를 줄이기 위한 인프라 전략이다.
 
24일(현지시간) 오픈AI와 로이터통신 등에 따르면 할라페뇨는 대규모언어모델(LLM) 추론에 특화한 AI 가속기다. 추론은 이미 학습된 AI 모델이 이용자 질문에 답하거나 작업을 수행하는 과정이다. 오픈AI는 이 칩을 “범용 반도체가 아니라 자사 서비스의 처리 방식에 맞춰 설계했다”고 밝혔다.
 
오픈AI는 할라페뇨에 대해 “현재와 차세대 LLM을 빠르고 효율적으로 구동하도록 만들어졌다”고 설명했다. 초기 시험에서는 전력 대비 성능 개선 가능성이 확인됐다. 구체적인 수치는 추후 기술 보고서에서 공개할 예정이다.
 
칩 구현과 네트워킹 기술은 브로드컴이 맡았고, 서버 시스템은 셀레스티카가 구축한다. 제조는 대만 TSMC가 담당했다. 오픈AI는 “설계부터 제조 의뢰까지 약 9개월이 걸렸으며, 이 과정에서 자사 AI 모델을 활용해 일부 설계와 최적화 작업을 앞당겼다”고 설명했다.
 

할라페뇨는 올해 말부터 오픈AI 내부 인프라에 배치될 예정이다. 로이터통신은 “이 칩과 서버 시스템이 외부 고객에게 판매되지 않고 오픈AI 서비스 운영에 직접 사용될 계획”이라고 전했다.
 
오픈AI는 “현재 실험실에서 시제품을 구동하고 있다”며 “GPT-5.3-코덱스-스파크 모델을 대상으로 목표 전력과 성능 수준에서 머신러닝(데이터 기반 학습·예측) 작업을 실행하고 있다”고 밝혔다.
 
브로드컴의 혹 탄 최고경영자(CEO)는 로이터통신 인터뷰에서 “할라페뇨가 엔비디아의 블랙웰 칩이나 구글의 텐서처리장치(TPU)에 견줄 수 있다”고 말했다. 아울러 그는 삼성전자와 SK하이닉스가 브로드컴에 메모리 반도체를 공급하고 있다고 전했다.