KT, AI 모델 공급부터 결제까지…'토큰팩토리'로 기업 AX 시장 공략(종합)

토큰팩토리 통해 토큰 사용량 평균 25% ↓

오는 30일 서비스 출시…11월 500개 모델 입점

이진형 KT AX사업본부장이 27일 서울 종로구 광화문 웨스트 빌딩에서 열린 기자간담회에서 KT의 토큰팩토리를 설명하고 있다. [사진=KT]

KT가 인공지능(AI) 모델 공급·과금 플랫폼 'KT 토큰팩토리'를 앞세워 기업 인공지능 전환(AX) 시장 공략에 나선다. AI 모델 선택부터 사용량·비용 관리, 결제 등 음성·데이터 중심의 과금 사업을 AI 토큰으로 확장한다는 구상이다.

27일 KT는 서울 종로구 광화문 웨스트 빌딩에서 간담회를 열고 KT 토큰팩토리를 공개했다. 토큰팩토리는 AI 모델 선택부터 가입, 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리하는 플랫폼이다. 

박상원 KT AX 사업부문장은 "현재 AI가 기업이나 산업, 여러 업무에 적용해 실질적 성능과 성과, 가치 창출로 어떻게 전환하느냐가 중요 화두가 됐다"며 "토큰팩토리는 신뢰와 비용 효율성을 기반으로 기업의 AX를 KT가 지원하는 것"이라고 말했다.

토큰팩토리의 핵심 기능은 AI 모델 선택과 비용 절감이다. 자체 개발한 '오토 모델 라우터'는 질문 유형, 난이도, 요구 품질, 비용 등을 종합해 적합한 모델을 선택한다. 단순 업무에는 가벼운 모델을, 복잡한 분석에는 고성능 모델을 적용하는 식이다.

프롬프트 압축 기술도 적용했다. 불필요한 반복 표현을 덜어내 질문 의미와 응답 품질을 유사하게 유지하면서 토큰 처리량을 줄인다. 김준석 KT AX 미래기술원장은 "이 기술로 토큰 처리량을 25% 줄였다"며 "프롬프트 내용에서 불필요한 내용을 삭제하는 것이 20%, 나머지 5%는 문제를 처리할 수 있는 가장 저렴한 모델로 라우팅해서 비용을 낮췄다"고 설명했다.

KT는 이를 통해 토큰 과금 사업자로 나아가겠다고 강조했다. 이진형 KT AX사업본부장은 "과거 통신사의 과금 단위는 음성이었지만 AI 시대로 접어들며 토큰 경제가 새롭게 떠오르고 있다"며 "KT는 토큰팩토리를 통해 토큰 과금, 트래픽 정산, 라우팅을 하는 사업자로 나아갈 것"이라고 했다.

과금 방식은 통신의 통화 상세 기록 개념을 적용했다. 이 본부장은 "통신에서 과금하는 CDR과 동일한 기법으로 토큰 디테일 레코드(TDR)를 생성해 토큰 요금 정책을 적용하고 통합 청구하는 방식"이라고 했다.

출시 초기 요금제는 스탠다드, 엔터프라이즈 등 총 2가지다. 스탠다드 요금제의 기본 구조는 사용한 만큼 지불한다. 엔터프라이즈 요금제는 사용 규모·기간 약정 기반으로 월별 정산하는 형태다. 이 본부장은 "엔터프라이즈 요금제는 할인 뿐 아니라 전용 회선으로 기업에게 맞춤형 환경을 제공할 것"이라며 "토큰과 통신 요금을 한 번에 계산해 기업에 통합 청구할 것"이라고 했다.
 

이진형 KT AX사업본부장이 27일 서울 종로구 광화문 웨스트 빌딩에서 열린 기자간담회에서 KT의 토큰팩토리를 설명하고 있다. [사진=나선혜 기자]

KT는 오는 30일 토큰팩토리를 공개한다. 73종의 AI 모델이 입점되며 이 중 7종이 업스테이지 솔라를 포함한 국내 모델이다. 이 본부장은 "오는 11월 오픈라우터가 가지고 있는 500개 모델이 토큰팩토리에 입점될 예정"이라며 "국내 스타트업의 모델을 전 세계에 판매할 것"이라고 말했다.