카카오-KT클라우드, 안전한 AI 생태계 구축을 위한 MOU 체결

카카오 'AI 세이프티' 기술-KT클라우드 'AI 인프라' 플랫폼 기반 협력

KT클라우드 플랫폼에 '카나나 세이프가드' 적용…자체 개발 AI 가드레일 모델

실제 고객 사례 반영 후 AI 세이프티 툴즈 통합·관리 플랫폼 공동 구축 예정 

지난 25일 진행된 협약식에서 김세웅 카카오 AI 시너지 성과리더(왼쪽)와 공용준 KT클라우드 클라우드 본부장(오른쪽)이 촬영한 모습. [사진=카카오]

카카오는 26일 KT클라우드(kt cloud)와 안전한 인공지능(AI) 생태계 구축을 위한 양해각서(MOU)를 체결했다고 밝혔다. 양사의 기술을 결합해 이용자가 신뢰할 수 있는 AI 기술 및 서비스 환경을 만들 계획이다. 

카카오 AI 세이프티 기술과 KT클라우드의 AI 인프라 플랫폼 역량을 바탕으로 AI 서비스의 신뢰성을 높이고 안전한 AI 생태계 조성에 나선다. 지난 25일 진행된 협약식에는 김세웅 카카오 AI 시너지 성과리더, 공용준 KT클라우드 클라우드 본부장이 참석했다. 

양사는 AI 안전 기술의 개발-검증-확장의 3단계를 순차적으로 추진한다. 먼저 카카오가 자체 개발한 AI 가드레일 모델인 '카나나 세이프가드'를 포함해 모델 안전성 평가 시스템, 레드티밍 시스템 등의 'AI 세이프티 툴즈'를 KT클라우드의 AI 플랫폼에 적용한다. 

카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 자체 개발 AI 가드레일 모델로, 현재 카카오의 주요 AI 서비스에 적용돼 있다. 한국어와 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유한 것이 특징이다. 

이후 단계에서는 실제 고객 사용 사례를 바탕으로 효용성을 검증하고 기술을 고도화 할 예정이다. 마지막 단계에서는 사용성을 바탕으로 AI 세이프티 툴즈를 통합·관리하는 플랫폼을 공동 개발해 생태계를 본격적으로 확장한다. 

김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다. 

한편 카카오는 자체 AI 리스크 관리 체계 '카카오 ASI(Kakao AI 세이프티 이니셔티브)'를 구축하고 고도화하고 있다. 카카오는 자체 가이드라인을 수립하고 글로벌 AI 얼라이언스 가입 등 안전망을 강화하며 글로벌 기준에 부합하는 안전성을 확보하고 있다. 카카오는 이번 KT클라우드와의 인프라 협력으로 리스크 관리 생태계를 외부로 확장하는 것으로 풀이된다.