래블업, CES 2026서 클라우드 없이 AI 구동하는 앱 공개

[사진=래블업]

인공지능(AI) 인프라 기업 래블업이 오는 9일까지 미국 라스베이거스에서 열리는 CES 2026 현장에서 클라우드 서버 없이 개인 PC에서 소형언어모델(SLM)을 구동하는 데스크탑 애플리케이션(앱) '백엔드닷에이아이:고(Backend.AI:GO)'를 정식 출시한다고 5일 밝혔다. 

Backend.AI:GO는 온프레미스 환경에서 로컬 자원을 활용해 AI 추론을 가속하는 솔루션이다. 한 번 모델을 다운로드하면 이후에는 클라우드를 거치지 않고 작동해, 인터넷 연결 없이도 사용할 수 있다. 사용자가 입력한 데이터 역시 외부 서버로 전송되지 않는 것이 특징이다.

사용자는 개인 컴퓨터에 모델을 내려받아 사내 문서 분석, 이미지 이해·생성, 코드 리뷰 등 다양한 업무에 활용할 수 있다. 하이퍼파라미터(초매개변수)와 자원 할당량을 직접 조절해 모델의 응답 특성과 자원 사용량을 원하는 방향으로 설정하는 것도 가능하다.

특히 래블업의 AI 인프라 운영 플랫폼 ‘Backend.AI’와의 연동이 핵심 특징으로 꼽힌다. 여러 대의 Backend.AI:GO를 연결하거나, 기존에 구축한 Backend.AI 환경은 물론 OpenAI, Google 등 클라우드 AI와 연동하면 초거대 AI와 로컬 PC 자원을 통합해 활용할 수 있다.

기존에 수천 대 규모의 GPU 클러스터를 운영하던 관리 체계를 그대로 확장해 AI PC까지 관리 범위에 포함할 수 있다는 점도 강점이다. 중앙 관리 콘솔에서 모델 사용 현황과 버전 관리, 사용량 모니터링까지 통합적으로 관리할 수 있어 운영 편의성을 높였다.

신정규 래블업 대표는 "AI PC 시대가 본격화되면서 온디바이스 환경에서 LLM을 직접 구동하려는 엔터프라이즈 수요가 빠르게 늘고 있다"며 "Backend.AI:GO와 DOL을 통해 개인 PC 한 대부터 수천 대 GPU 클러스터까지 규모와 환경에 관계없이 일관된 경험으로 AI 인프라를 운영할 수 있는 환경을 제공하겠다"고 밝혔다.