과기정통부·앤트로픽 맞손…'AI 사이버 보안 협력한다'

이도규 과학기술정보통신부 정보통신정책실장과 크리스 차우리 앤트로픽 글로벌총괄이 18일 오전 서울 중구 코리아나호텔에서 열린 'AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약식' 에서 기념촬영을 하고 있다. (왼쪽부터) 오진영 한국인터넷진흥원 인공지능보안산업본부장, 김명주 인공지능안전연구소장, 이진수 과학기술정보통신부 인공지능정책기획관, 이도규 과학기술정보통신부 정보통신정책실장, 크리스 차우리(Chris Ciauri) 앤트로픽 글로벌총괄, 최기영 앤트로픽 한국법인대표, 아키라 요시다(Akira Yoshida) 앤트로픽 정책책임자(한국일본담당), 김태훈 금융위원회 금융안전과장. [사진=과기정통부]

과학기술정보통신부(과기정통부)가 글로벌 인공지능(AI) 연구개발 기업인 앤트로픽(Anthropic)과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다.
 
과기정통부는 이번 업무협약(MoU)을 통해 인공지능(AI)이 사이버 공격과 방어에 미치는 영향을 심층 분석할 계획이다. 한국어 맥락에서의 AI 모델 안전성과 오남용 위험을 평가하고, 자율형 AI 에이전트에 대한 레드팀 평가도 추진한다. 이를 바탕으로 첨단 AI의 안전성을 확보하기 위한 앤트로픽과 협력 체계를 공고히 한다는 방침이다.

이번 업무협약은 배경훈 부총리가 지난 2월 '2026 인도 AI 영향 정상회의' 참석을 계기로 다리오 아모데이 앤트로픽 최고경영자(CEO)와 만나 논의했던 협력 방안의 실질적인 후속 조치로 추진됐다. 

MoU 체결 이후 이도규 정보통신정책실장은 앤트로픽의 글로벌 총괄인 크리스 차우리(Chris Ciauri)와 AI 안전과 사이버보안 분야 협력 방향에 대해 논의하는 시간을 가졌다.

 
AI 안전 분야에서는 우리나라의 AI 안전연구소(AISI)와 앤트로픽 간 AI 모델 및 자율형 AI 에이전트 안전성 평가 등 AI 안전성 확보를 위한 협력을 적극적으로 추진하기로 했다. 사이버보안 분야에서는 금융 분야 등을 포함한 AI 취약점 발굴 및 사이버 위협에 대한 전문 지식과 관련 정보 등의 신속한 공유를 포함한 협력을 추진할 방침이다. 
 
이 실장은 "글로벌 AI 프론티어 기업인 앤트로픽과 이번 협력은 안전과 보안이라는 단단한 기반 위에서 한국의 AI 혁신의 지평을 넓히고 역동성을 더하는 추동력이 될 것"이라고 밝혔다.
 
차우리 총괄은 "이번 MoU 체결은 한국에서의 장기적인 협력 토대를 마련한다는 점에서 의미가 있다"며 "한국의 AI 생태계와 함께 이 파트너십을 더욱 발전시켜 나가기를 기대한다"고 말했다. 

한편 앤트로픽은 지난 17일 서울 사무소를 정식 개소했다. 최기영 앤트로픽코리아 대표는 서울사무소 개소 기자간담회에서 "국내 기업과 기관들은 함께 가야할 목표로 인식하고 있다"며 "앤트로픽 서울 오피스 개소는 한국의 AI 리더십을 이끄는 이들과 협력에 장기적인 토대를 마련한다는 의미가 있다"고 말했다.