카카오, AI 안전성 검증 모델 3종 공개…신뢰도 향상 기여

[사진=카카오]

카카오는 인공지능(AI) 서비스 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드’를 개발‧공개했다고 27일 밝혔다.
 
카나나 세이프가드는 카카오가 자체 개발한 언어모델 ‘카나나’ 기반으로 제작됐다. 한국어에 특화된 성능을 보유하고 있다.
 
AI 모델 정밀도‧재현율 평가 수치인 ‘F1 스코어’ 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다.
 
카카오는 개발과 동시에 모델 3종을 누구나 활용할 수 있도록 공개했다. AI 플랫폼 ‘허깅페이스’에서 다운로드 할 수 있다.
 

△사용자 언어 또는 AI 답변서 증오, 괴롭힘, 성적 콘텐츠 관련 유해성을 탐지하는 ‘카나나 세이프가드’ △개인 정보, 지식재산권 등 법적 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드-사이렌’ △AI 서비스 악용 목적 사용자 공격을 탐지하는 ‘카나나 세이프가드-프롬프트’ 등이다.