배키는 1000억개(100B) 파라미터급으로 설계됐지만, 전문가 혼합(MoE) 구조를 적용해 답변을 생성(추론)할 때 필요한 일부만 활성화하는 방식으로 운영 부담을 낮췄다. 또 다중 헤드 잠재 주의(MLA·연산 효율을 높이는 구조)를 통해 메모리 사용량을 최대 83% 줄이는 등 효율을 앞세웠다는 게 회사 설명이다.
컨소시엄은 산·학·연 14개 기관과 40개 수요처가 참여했고, 4대 산업군에서 28개 실증(현장 적용 시험) 프로젝트를 추진 중이다.
국방 분야는 온프레미스(내부 구축형) 등 폐쇄형 보안 환경에서도 운용 가능한 형태를 강조했고, 제조·물류는 공정 데이터 분석과 운영 최적화 같은 현장 과제를 전면에 내세웠다.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지



![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)



