카이스트, 서버 호출 55% 줄이는 '기기-서버 협업 AI 기술' 개발

이영준 카이스트 정보전자연구소 이영준 박사(왼쪽부터), 이재길 전산학부 교수, 김도영 아마존 박사(우측 상단 개별 사진 왼쪽부터), 강준혁 LG AI연구원 박사, 송환준 카이스트 산업및시스템공학과 교수 [사진=카이스트]

한 번 배운 풀이를 기기에 저장해 재사용하는 AI 기술이 나왔다. 카이스트(KAIST) 연구진은 소형 AI가 서버 대형 AI의 지식을 축적해 활용하도록 해, 정확도를 유지하면서 서버 호출을 평균 55.61% 줄이는 데 성공했다.
 
카이스트는 전산학부 이재길 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 기기-서버 협업 기술 'CURE(누적 지식 재사용)'를 개발했다고 21일 밝혔다.
 
스마트폰 같은 기기는 계산 능력과 메모리 제약으로 가벼운 소형 AI 모델을 주로 쓴다. 소형 모델은 간단한 문제는 빠르게 처리하지만 복잡하거나 낯선 이미지 앞에서는 정확도가 떨어진다. 반대로 모든 문제를 고성능 서버 AI에 맡기면 정확도는 높아지지만 데이터 송수신 시간과 통신량, 서버 연산 비용이 늘어난다.
 

이 때문에 기기의 소형 AI가 먼저 판단하고 어려운 문제만 서버로 보내는 협업 방식이 연구돼 왔다. 다만 기존 방식은 서버 답변을 그때만 쓰고 버려, 비슷한 문제가 다시 들어와도 서버에 같은 도움을 반복 요청해야 했다. 연구팀은 서버가 알려준 답을 일회성으로 소비하지 않고 기기가 이후에도 쓸 수 있는 지식으로 쌓아두는 데 주목했다.
 
CURE는 △소형 AI가 입력을 스스로 처리할 수 있는지 판단 △어렵다면 기기에 저장된 서버 지식을 우선 활용 △그래도 부족할 때만 서버에 요청하는 3단계로 작동한다. 서버가 답을 준 사례는 낱개로 저장하지 않고, 여러 사례가 공유하는 특징과 차이점을 요약해 지식으로 보관한다. 이를 통해 이전에 본 사례뿐 아니라 처음 접하는 유사 사례를 판단할 때도 축적된 지식을 활용할 수 있다.
 
연구팀은 이미지와 텍스트를 함께 이해하는 비전-언어 모델로 성능을 검증했다. 기기용 소형 모델은 MobileCLIP2, 서버용 대형 모델은 매개변수 180억 개 규모의 EVA-CLIP을 사용했다.
다양한 이미지 분류 데이터셋 실험 결과 CURE는 모든 입력을 대형 서버 모델로 처리하는 방식에 근접한 정확도를 유지하면서, 지식을 축적하지 않는 기존 기기-서버 협업 방식보다 서버 호출 횟수를 평균 55.61% 줄였다. 처리 속도는 기존 협업 방식보다 최대 2.8배, 모든 입력을 서버로 보내는 방식보다 최대 3.67배 빨랐다.
 
CURE는 소형·대형 모델을 별도로 재학습시킬 필요 없이 기존 모델에 서버 지식을 담는 저장소만 추가하면 적용할 수 있다. 스마트폰 사진 인식과 이미지 검색뿐 아니라 로봇, 웨어러블 기기 등 제한된 자원으로 주변 환경을 인식해야 하는 기기에도 응용이 가능하다. 다만 실제 적용 효과는 기기 성능과 저장 공간, 통신 환경, 입력 데이터 특성에 따라 달라질 수 있어 다양한 기기와 환경에서 추가 검증이 필요하다.
 
이재길 교수는 “CURE는 기기의 소형 AI가 서버에 같은 문제를 반복해서 묻지 않고, 한 번 얻은 지식을 기억해 다시 활용하도록 한 기술”이라고 말했다.
 
이번 연구는 카이스트 정보전자연구소 이영준 박사후연구원이 제1저자로, 이재길 교수가 교신저자로 참여했다. 김도영 아마존 연구원, 강준혁 LG AI연구원 연구원, 송환준 카이스트 산업및시스템공학과 교수가 공동저자로 이름을 올렸다. 연구 결과는 지난 8일부터 12일까지 스웨덴 말뫼에서 열린 유럽컴퓨터비전학회(ECCV 2026)에서 10일 발표됐다. 이번 연구는 과학기술정보통신부와 정보통신기획평가원의 '사람중심인공지능핵심원천기술개발사업' 중 'AI학습능력개선기술개발' 과제 지원을 받아 수행됐다.