"AI 강화학습 2주 중단합니다"…오픈AI, AI 안전 점검
생성형 인공지능(AI) 경쟁이 고도화되는 가운데 오픈AI가 최신 모델의 강화학습을 일시 중단하고 안전성 점검에 나선다. AI 모델의 성능과 자율성이 높아지면서 스스로 해킹을 하는 등 보안 위험 가능성을 사전 관리하기 위한 조치다.
19일 오픈AI는 AI 모델의 확장 속도를 일시적으로 늦추고 모니터링과 모델 행동 정렬, 격리 환경의 보안 통제 등을 강화한다고 밝혔다. 특히 최신 프런티어 모델의 강화학습을 약 2주간 중단하고, 이 기간 소규모 훈련과 안전성 평가를 진행한다.
기사보기
