바이트댄스 창업자 "절대 AI 증류하지 말라"

바이트댄스 [사진=로이터·연합]

중국의 빅테크인 바이트댄스(쯔줴타오둥, 字節跳動)가 장기적인 자체 기술 경쟁력 강화를 강조하고 나섰다. 

바이트댄스의 창업자인 장이밍(張一鳴)은 6일 진행된 그룹 경영진 회의에서 자사 AI 모델 개발 과정에서 경쟁사의 모델을 활용한 '증류(Distillation)'를 금지하도록 지시했다고 중국 제일재경신문이 7일 전했다. 장이밍은 최근 내부 회의에도 증류를 하지 말 것을 지시했던 것으로 전해졌다. 해당 방침을 6일 회의에서도 재확인한 것이다. 

장이밍은 증류 금지 방침으로 인해 바이트댄스의 AI 기본 모델인 '시드(Seed)'가 딥시크, 키미, 큐원 등 중국 경쟁 모델보다 성능 평가나 벤치마크 순위에서 뒤처질 수 있더라도 이를 감수해야 한다고 강조했다. 

모델 증류는 성능이 뛰어난 AI 모델을 스승으로 삼아 그 답변을 다른 AI가 학습하는 방식이다. 이미 검증된 모델의 추론 결과를 활용하기 때문에 개발 기간을 크게 단축하고 성능을 빠르게 개선할 수 있다는 장점이 있다. 하지만 장이밍은 증류가 장기적으로는 기술 혁신을 가로막을 수 있다고 판단했다. 경쟁 모델을 증류한다면 근본적인 알고리즘과 추론 능력을 스스로 발전시키기는 어렵다는 것이다. 

이날 량루보(梁汝波) 바이트댄스 CEO 역시 대형언어모델(LLM) 개발과 관련해 "기본기를 충실히 다지고 단기적인 뒤처짐은 받아들이더라도 장기적인 경쟁력을 확보하는 것이 중요하다"며 "가장 중요한 것은 방향이 흔들리지 않는 것"이라고 강조했다. 이어 "즉각적인 성과보다 기술의 기초를 다지는 문화를 가져야 궁극적으로 범용인공지능(AGI)에 도달할 수 있다"고 설명했다. 바이트댄스는 개발자들이 외부 AI 모델의 출력을 몰래 학습 데이터로 활용하지 못하도록 하는 시스템을 개발해 내부적으로 적용하고 있다. 

한편 바이트댄스는 회의에서 올해 상반기 개인용 LMM인 더우바오(豆包)는 소비자 시장에서 높은 경쟁력을 유지했고, 영상 생성 모델 '시댄스(Seedance)'는 세계 최고 수준의 성능을 이어가고 있다고 평가했다.