더 똑똑해진 AI의 청구서…에이전트 전력 소비, 챗봇의 136배

LLM 호출 9.2배·응답 시간 153.7배↑…GPU는 절반 가까이 '유휴 대기'

전문가들 "AIDC 규모 경쟁 경종…모델·인프라 공동 설계 필요"

데이터센터 [사진=게티이미지뱅크]

인공지능(AI) 에이전트가 기존 생성형 AI의 단순 질의응답보다 최대 136.5배 많은 전력을 소비하는 것으로 나타났다. 이에 따라 AI 에이전트 발전에 따른 AI 데이터센터(DC) 확대보다는 인프라 효율을 개선하는 설계가 필요하다는 지적이 나온다. 
 
5일 카이스트(KAIST)에 따르면 유민수 전기및전자공학부 석좌교수 연구팀은 AI 에이전트를 데이터센터의 서버와 그래픽처리장치(GPU)가 지속적으로 처리해야 하는 새로운 형태의 워크로드로 정의하고, 실제 실행 과정에서 발생하는 계산량과 에너지 소비를 분석했다.
 
AI 에이전트는 단순히 질문에 답하는 수준을 넘어 스스로 계획을 세우고 계산기·코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 인공지능이다. AI 에이전트의 계산 비용과 에너지 소비 경향을 정량적으로 분석한 것은 이번이 세계 최초다.
 

분석 결과 AI 에이전트는 기존 단계별 추론 방식보다 평균 9.2배 많은 대형언어모델(LLM) 호출을 수행하는 것으로 나타났다. 언어 모델을 반복 호출하면서 응답 시간은 최대 153.7배 늘었고, 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 아무 계산도 하지 못한 채 대기했다.
 
전력 소비 증가는 더 두드러졌다. 상용 AI 서비스 수준인 700억개 매개변수 LLM을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41와트시(Wh)의 전력을 소비했다. 하루 137억건의 AI 에이전트 요청이 발생하는 미래를 가정하면 데이터센터 전력 수요는 약 198.9기가와트(GW)에 이른다. 미국 전체 평균 전력 소비량의 절반에 해당하는 규모다.
 
연구팀은 "단순히 AI가 더 똑똑해지는 것을 넘어 그 지능을 구현하고 유지하기 위해 얼마나 많은 전력과 비용이 필요한지를 정량적으로 제시한 첫 사례"라며 "AI 에이전트 모델과 전력 인프라까지 통합적으로 공동 설계해 최적화하는 접근이 더욱 중요해질 것"이라고 밝혔다.
 
전문가들은 이번 연구가 AI 인프라를 무한정 키우는 현재 흐름에 경종을 울렸다고 평가했다.
 
최기영 전 서울대 전기정보공학부 교수(전 과학기술정보통신부 장관)은 "현재 사용되고 있는 AI 에이전트들이 요구하는 대로 무작정 AI 데이터센터의 규모와 비용을 키우는 것은 지속가능하지 않을 수 있다는 경종을 울린다는 면에서 이 논문은 큰 의미를 가진다"고 말했다.
 
다만 그는 136.5배라는 수치의 해석에는 신중할 필요가 있다고 짚었다. 최 전 장관은 "어려운 질문에 답을 잘하기 위해 어쩔 수 없이 AI 에이전트를 사용하는 면도 있어 단발성 대화와의 적절한 비교라고 하기는 어렵다"면서도 "그럼에도 단순한 채팅에 비해 복잡한 문제를 풀기 위해서는 현재의 기술로는 훨씬 더 큰 에너지를 써야 한다는 것을 잘 보여준다"고 평가했다.
 
대안으로는 하드웨어와 알고리즘 양쪽의 최적화를 제시했다. 최 전 장관은 "GPU 대신 효율이 좋은 신경망처리장치(NPU)로 대체해 공급망·비용·에너지 소비 문제를 해소하려는 것도 그런 노력의 일환"이라며 "AI 에이전트와 그 운용 방법을 다양한 각도에서 최적화하는 노력도 병행할 필요가 있고, 이 논문의 분석 결과가 그 시작점이 될 수 있다"고 덧붙였다.
 
기술철학 관점의 문제 제기도 나왔다. 손화철 한동대 글로벌리더십학부 교수는 "AI의 소비 전력 문제는 이미 많이 제기됐지만 AI의 발전 과정에서 곧 해소될 사소한 문제인 것처럼 다뤄지는 경우가 많다"며 "AI가 모두가 사용해야 하는 에너지의 가격을 올리는 결과를 초래한다면, AI 사용으로 생기는 유익이 무엇이고 누구의 유익을 위한 것인지 좀 더 면밀하게 따져봐야 한다"고 지적했다.