[2026 GGGF] 유민수 에이투시스 CRO "K-AI, 정제·최적화로 미·중 맞서야"

AI 에이전트, 전력 소모 최대 140배·지연시간 5.2배 급증

"고비용 추론 구조 벗어나 K-AI 생태계 전환해야"

유민수 에이투시스 CRO(KAIST 석좌교수)가 2일 서울 중구 더플라자 호텔에서 열린 '제18회 착한 성장, 좋은 일자리 포럼(2026 GGGF)'에서 기조강연을 하고 있다. [사진=유대길 기자]

"AI 에이전트 시대에 전력·메모리 한계를 극복하고 미·중과 경쟁에서 살아남으려면 연산력 투입이 아닌 정제와 최적화 중심의 K-AI 전략으로 전환해야 합니다."

유민수 에이투시스 최고연구책임자(CRO·KAIST 석좌교수)는 2일 아주경제신문이 서울 중구 더플라자 호텔에서 개최한 '제18회 착한 성장, 좋은 일자리 포럼(2026 GGGF)'에서 이같이 강조했다.
 
유 CRO는 엔비디아(NVIDIA) 출신에 컴퓨터 시스템 및 그래픽처리장치(GPU) 아키텍처 전문가로 최근 AI 인프라 스타트업 '에이투시스'를 창업했다. 그는 이날 'K-AI, 정제와 최적화로 중국과 경쟁'을 주제로 기존 대화형 챗봇에서 자율형 AI 에이전트로 넘어가는 패러다임 변화 속에서 발생할 시스템적 부하와 전력 대란 문제에 대해 정량적 연구 결과를 제시했다.
 
유 CRO는 "오픈AI의 '스타게이트', 메타의 '하이페리온' 등 글로벌 빅테크 기업들이 수십 기가와트(GW) 스케일의 초대형 AI 데이터센터(DC)를 구축하고 있지만 현행 인프라 구조와 전력망으로는 지속 가능성에 명확한 한계가 있다"고 지적했다.

 
유 CRO 연구팀이 AI 에이전트 알고리즘을 분석한 결과에 따르면 단순히 텍스트를 내뱉는 일반 대형언어모델(LLM) 기반의 챗봇 시스템 대비 AI 에이전트의 응답 지연 시간이 평균 최대 5.2배 이상 증가했다. 기존 LLM은 입력값을 받으면 즉시 결론을 출력하지만 AI 에이전트는 웹 브라우저 등 외부 도구와 소통하며 스스로 생각하고 행동하는 과정을 목표가 달성될 때까지 무한 반복하기 때문이다.
 
유 CRO는 "AI 에이전트가 이전 대화 기록과 검색 결과 등을 잊지 않기 위해 계속 메모리에 저장하다 보니 저장 공간(KV 캐시)이 순식간에 차오른다"면서 "기존 데이터센터의 메모리 설계 가정이 무너지면서 컴퓨터 처리 속도가 급격히 느려지고 메모리 부족 현상이 심화되는 것"이라고 설명했다.
 
AI가 더 오랫동안 고민하고 계산을 반복해 정답률을 높이는 기술(테스트 타임 스케일링)을 쓸 때에는 전기 소모량이 더욱 증가했다. 유 CRO는 "단 한 건의 에이전트 질의 처리 시 GPU 전력 및 에너지 소모량이 기존 단순 챗봇 대비 최대 136.5~140배까지 급증한다"고 강조했다.
 
유 CRO 연구팀은 AI 에이전트가 향후 구글 검색 수준의 트래픽(하루 약 137억건)으로 확장됐을 때 필요한 데이터센터 전력 수요를 추산했다. 이에 필요한 전력 수요는 최대 198.9GW(약 200GW)에 달한다. 미국 전체 전력망 용량(약 476.9GW) 대비 절반에 육박하는 엄청난 수치다.
 
유 CRO는 "이제는 GPU 수량 확보를 넘어 전력 공급과 데이터센터를 설치할 상용 부지 자체가 부족해지는 단계에 도달했다"며 "무작정 자원을 쏟아붓는 무작위 연산 방식은 비용효율성과 단가 측면에서 명확한 한계에 다다랐다"고 진단했다.
 
유 CRO는 미·중 패권 경쟁 속에 자본·인프라 격차를 극복할 해법으로 고비용 추론 구조를 개선하는 '정제·최적화 중심 K-AI 전략'을 제안했다. 그는 "컴퓨팅 자원을 무작정 투입해 성능을 높이는 방식은 비용 대비 정확도 향상 폭이 줄어드는 '단가 저하' 현상을 초래한다"며 "에이전틱 AI 워크로드 특화 시스템과 소프트웨어 최적화 기술이야말로 한국의 강력한 무기인 만큼 인프라 효율을 극한으로 끌어올리는 기술 혁신에 국가적 역량을 집중해야 한다"고 강조했다.