네이버, 안전한 AI 개발 논의 이끈다

기자정보, 기사등록일
한영훈 기자
입력 2024-03-21 15:05
    도구모음
  • AI 기사요약
  • * AI기술로 자동 요약된 내용입니다. 전체 맥락과 내용을 이해하기 위해서는 기사 본문 전체를 보시길 권장합니다

    네이버는 '생성형 인공지능(AI) 레드팀 챌린지'에 대표 파트너사로 참여한다고 21일 밝혔다.

    네이버는 대표 파트너사로 행사를 운영하며 LLM 안전성 검증 및 강화, 안전한 AI 개발을 위한 전문가 논의에 적극 참여한다.

    생성형 AI 레드팀 챌린지 참가자들에겐 국내 최고 수준 LLM의 안전성을 직접 검증하고 실험할 수 있도록 자체 개발한 초대규모 AI '하이퍼클로바X'를 제공한다.

  • 글자크기 설정
  • 과기정통부 주최 '생성형 AI 레드팀 챌린지' 대표 파트너로 참여

네이버가 내달 11일12일 열리는 ‘생성형 AI 레드팀 챌린지’에 대표 파트너사로 참여한다 사진네이버
네이버가 내달 11일~12일 열리는 ‘생성형 AI 레드팀 챌린지’에 대표 파트너사로 참여한다 [사진=네이버]
네이버는 ‘생성형 인공지능(AI) 레드팀 챌린지’에 대표 파트너사로 참여한다고 21일 밝혔다.
 
이 행사는 최근 급성장하고 있는 초거대언어모델(LLM)의 안전성, 신뢰성, 보안 강화 방법을 모색하기 위해 기획됐다. 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대 AI추진협의회가 주관하며, 내달 11~12일 양일간 개최된다.
 
11일에는 실제 서비스되고 있는 LLM에 참가자들이 모의로 공격을 해 모델의 안전성을 검증하는 ‘생성형 AI 레드팀 챌린지’ 대회가 열린다. 전공과 상관없이 AI 윤리, 안전에 관심이 있는 국민 누구나 사전 신청을 통해 참여할 수 있다. 우수 참가자들에게는 총 1700만원 규모의 상금이 제공된다.
 
12일에는 ‘안전한 AI 개발’을 주제로 국내외 AI 기술 리더들이 모여 발표와 의견 교류를 나눈다. 북미 AI 스타트업 ‘코히어’의 공동 창업자인 에이단 고메즈, AI 윤리·안전 포럼 ‘프런티어 모델 포럼’의 대표이사 크리스 메세롤을 비롯한 다양한 인사들이 참석한다.
 
네이버는 대표 파트너사로 행사를 운영하며 LLM 안전성 검증 및 강화, 안전한 AI 개발을 위한 전문가 논의에 적극 참여한다. 생성형 AI 레드팀 챌린지 참가자들에겐 국내 최고 수준 LLM의 안전성을 직접 검증하고 실험할 수 있도록 자체 개발한 초대규모 AI ‘하이퍼클로바X’를 제공한다. 네이버는 이번 대회를 통해 축적된 검증 데이터를 기반으로 하이퍼클로바X의 안전성을 한층 강화할 계획이다.
 
하정우 네이버 퓨처 AI 센터장은 연사로 참여한다. 이 자리서 안전한 AI 개발을 위한 네이버의 노력을 소개할 예정이다. 하 센터장은 “하이퍼클로바X의 안전성을 검증 및 강화하는 것은 물론, 여러 선행 연구와 서비스 운영 경험을 통해 쌓아온 네이버의 AI 안전성 기술 역량을 공유할 것”이라고 말했다.
 
김유원 네이버클라우드 대표도 행사 주관 기관인 초거대 AI추진협의회 회장사 대표로서 축사를 진행한다.

©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지

컴패션_PC
0개의 댓글
0 / 300

로그인 후 댓글작성이 가능합니다.
로그인 하시겠습니까?

닫기

댓글을 삭제 하시겠습니까?

닫기

이미 참여하셨습니다.

닫기

이미 신고 접수한 게시물입니다.

닫기
신고사유
0 / 100
닫기

신고접수가 완료되었습니다. 담당자가 확인후 신속히 처리하도록 하겠습니다.

닫기

차단해제 하시겠습니까?

닫기

사용자 차단 시 현재 사용자의 게시물을 보실 수 없습니다.

닫기
실시간 인기
기사 이미지 확대 보기
닫기