[종합] 구글·MS·메타·오픈AI, 한자리에…안전한 오픈소스 활용 방안 논의

개인정보위 GPA 서울 계기 '오픈소스 데이' 15일 개최

안전성과 보안 강화한 도구 제공…글로벌 차원의 논의 필요

최 부위원장 "안심하고 오픈소스 활용할 수 있도록 정책에 반영"

최장혁 개인정보보호위원회 부위원장이 15일 오후 서울 용산구 그랜드 하얏트 서울에서 개최된 '오픈소스 데이'에서 환영사를 하고 있다. [사진=개인정보보호위원회]

구글·마이크로소프트(MS)·메타·오픈AI·네이버 등 국내외 주요 인공지능(AI) 기업들이 한자리에 모였다. AI 도입과 혁신 서비스 개발에 기반이 되는 오픈소스를 안전하게 활용하는 방안을 논의하기 위해서다. 
    
개인정보보호위원회는 15일 서울 용산구 그랜드 하얏트 서울에서 '오픈소스 데이'를 개최했다. 글로벌 프라이버시 총회(GPA) 개막에 앞서 진행된 사전 부대행사로, 지속 가능한 오픈소스 생태계 확산을 위해 마련됐다. 

이날 행사에는 구글, 메타, MS, 오픈AI, 셀렉트스타, 에임 인텔리전스 등 글로벌 오픈소스 모델·솔루션 기업과 네이버 등 국내 AI 기업·연구자, 해외 감독기구 등 120여 명이 참석해 오픈소스 AI 생태계와 프라이버시에 대해 논의했다.

이들은 안전성과 보안을 강화한 도구를 제공하는 등 안전한 오픈소스 환경 조성에 힘쓰고 있다고 강조했다. 구글은 오픈 소스 모델 운영을 위한 플랫폼 '버텍스 AI'를 소개하면서 신용카드·여권번호 등 민감한 정보는 걸러내는 안전성 강화 도구를 갖추고 있다고 설명했다. 또한 정량적 평가 방법을 접목한 프롬프트 최적화 기술이 적용돼 최적의 프롬프트를 만들 수 있도록 돕는다. 

MS는 자사 플랫폼 '애저 AI 파운드리'를 기반으로 에이전트 AI 사례를 소개하고 이를 위한 오픈소스 모델과 도구의 활용 가능성을 제시했다. 메타는 오픈소스 AI 필터링 모델 '라마 가드(Llama Guard)'를 제공하고 있다. AI 보안 기업 에임 인텔리전스는 메타의 라마 가드를 한국 실정에 맞게 고도화하고 안전한 환경에서 AI 서비스 운영 및 사내 업무용 AI 모델 활용을 지원하고 있다. 오픈AI 역시 최근 새롭게 공개한 자사 오픈소스 모델(gpt-oss-20b/120b)을 소개했다. 또한 오픈소스 모델이 지니는 경제·사회적 가치와 함께 안전성 우려와 책임성, 글로벌 차원의 논의 필요성 등 오픈소스 확산 과정에서 직면한 과제를 제기했다. 

네이버는 자사 오픈소스 모델인 '하이퍼클로바X'와 함께 안전한 오픈소스 활용을 위한 도구를 공개했다. 특히 네이버는 AI의 편향성과 불안전성과 관련한 데이터셋을 공개했고 서비스 개발을 위해 민감한 정보는 수집하지 않는다고 강조했다. 정주환 네이버 에반젤리스트는 "AI가 대답하면 곤란한 질문이나 위험할 수 있는 답변과 관련해선 데이터셋 형태로 공개하고 있을뿐더러 클로바케어콜 같은 공공 이익을 위한 AI 서비스를 개발하고 있다"고 밝혔다. 이어 그는 "AI 서비스 개발 과정에서 민감 정보를 학습하려면 사용자에게 동의를 받도록 하고 있다"고 강조했다. 

최장혁 개인정보위 부위원장은 환영사를 통해 "이번 오픈소스 데이는 에이전트 AI와 같은 혁신 서비스의 기반이 되는 오픈소스 AI 생태계와 개인정보 보호를 함께 고민하는 국내 첫 공개 논의의 장으로 의미가 크다"며 "기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장 목소리를 경청하여 정책에 적극 반영하겠다"고 밝혔다.

한편 대부분 기업들이 AI 서비스 개발을 위해 오픈소스를 활용하지만 동시에 안전성에 대한 우려도 증폭되고 있다. 개인정보위 조사에 따르면 조사에 참여한 개발자·연구자와 기업 관계자 70명 중 약 62%가 오픈소스를 도입·활용한 경험이 있었다. 오픈소스 모델을 활용한 미세조정 시 안전성을 고려한 경험이 있다고 응답한 비율은 77%에 달했다. 안전성을 고려할 때 개인정보·민감정보 제거 및 비식별화 조치(68%)가 가장 많았고 그다음으로 △데이터 출처 검증(19%) △레드티밍(16%) △국외이전(13%) 등이었다.