카카오, 개인화 AI 검색 기술 공개…모델 2종 오픈소스 배포

3B·1.3B 파라미터 모델 공개…한국어 기반 정보 검색 성능 고도화

카카오가 개인화 AI 에이전트 기반 기술 모델 2종을 오픈소스로 공개했다. [사진=카카오]

카카오가 이용자와의 대화 맥락을 바탕으로 필요한 정보를 찾아주는 인공지능(AI) 기술을 공개했다. AI가 질문에 답하는 것을 넘어 과거 대화나 이용자별 맥락에 맞는 정보를 검색할 수 있도록 임베딩 모델을 오픈소스로 배포했다.

카카오는 개인화 AI 에이전트의 기반 기술인 임베딩 모델 ‘카나나 2 임베딩’ 2종을 오픈소스 플랫폼 허깅페이스에 공개했다고 29일 밝혔다.

이번에 공개한 모델은 30억개(3B) 파라미터 규모의 ‘카나나-2-3b-임베딩’과 13억개(1.3B) 파라미터 규모의 ‘카나나-2-1.3b-임베딩’이다. 지난 7월 소형 언어모델(SLM) 4종을 공개한 데 이은 후속 조치다. 카카오는 자체 언어모델을 바탕으로 정보 검색 기술을 고도화하고 다양한 서비스 환경에서 활용할 수 있는 모델을 개발하고 있다.

임베딩 모델은 텍스트의 의미를 수치로 변환해 질문과 관련된 정보를 찾아내는 기술이다. 일반적인 언어모델이 질문을 이해하고 답변을 생성하는 데 초점을 맞춘다면, 임베딩 모델은 질문과 정보 사이의 의미적 유사도를 계산해 답변에 필요한 자료를 검색하는 역할을 한다.

예를 들어 이용자가 과거 대화에서 언급한 식당을 다시 찾으려 할 때 정확한 식당 이름을 입력하지 않더라도 ‘전에 이야기했던 조용한 식당’이나 ‘대화하기 좋은 곳’처럼 맥락을 담은 표현으로 관련 정보를 검색할 수 있다. 개인화 AI 에이전트가 과거 대화 등에서 필요한 정보를 찾아 답변에 활용하도록 돕는 것이다.

카카오는 자체 소형 언어모델 ‘카나나-2-SLM’을 기반으로 언어 이해 능력을 정보 검색에 활용하도록 학습시켜 3B 모델을 개발했다. 이후 큰 모델이 학습한 지식을 작은 모델에 전달하는 지식 증류 기법을 적용해 1.3B 모델을 구축했다. 모델 크기를 줄이면서도 정보 검색에 필요한 성능과 활용 효율을 확보하려는 취지다.

카카오는 앞으로 더 큰 언어모델을 활용한 임베딩 학습과 지식 증류 연구를 이어가 검색 성능과 효율을 함께 높일 계획이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께, 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다”며 “이번 공개를 통해 연구자와 개발자들이 한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 돕고, 검색 성능과 효율을 함께 높이는 연구를 이어갈 것”이라고 말했다.