"오픈AI, 첨단 AI 모델 개발 속도 조절 고려…다른 AI 기업들과 조율"

블룸버그통신 보도

샘 올트먼, 이번 주 전사 회의서 언급

지난 2일 미국 노스캐롤라이나에서 열린 주요 20개국(G20) 재무장관 중앙은행장 회의에서 발언하고 있는 샘 올트먼 오픈AI 최고경영자(CEO)[사진=로이터·연합뉴스]

오픈AI가 첨단 AI 모델 개발에 있어 속도 조절 가능성을 고려하고 있다고 블룸버그통신이 복수의 소식통을 인용해 10일(현지시간) 보도했다.

보도에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 이번 주 전사 회의에서 오픈AI가 다른 AI 기업들과 조율하는 방식으로 AI 개발 속도를 조절할 수 있다는 가능성을 시사한 것으로 나타났다. 다만 그는 다른 기업들이 이 같은 방안에 동의하지 않을 가능성도 있다고 덧붙였다. 올트먼 CEO는 지난 7월에도 백악관 관계자들과 AI 개발의 속도 조절 필요성에 대해 논의했다고 언급한 바 있다.

이 같은 발언은 최근 오픈AI, 앤트로픽 등 주요 AI 기업들의 최첨단 AI 모델 개발이 날로 치열해지면서 해킹 등 그에 수반하는 위험성이 부각된 가운데 나온 것이다. 일례로 이번 주 앤트로픽 연구원 제이컵 콕슨은 퇴사를 알리며 AI 모델 개발 경쟁으로 인해 AI가 통제 불능으로 치달으며 10년 내 인류가 멸망할 수 있다고 경고했다.

또한 지난 7월 말에는 오픈AI, 앤트로픽, 구글, 메타 등 주요 AI 기업 직원 1100명 이상이 AI 개발 속도 조절과 관련한 국제적 체계 마련을 촉구하는 성명을 발표하기도 했다. 당시 야쿠프 파초키 오픈AI 수석과학자는 "아무도 기계 지능의 지속적인 빠른 발전이 가져올 결과에 대비하지 못하고 있다"며 AI의 과도한 발전에 경계심을 나타냈다.

실제로 AI 모델의 성능이 날로 개선되면서 이를 악의적 목적으로 사용하려는 조짐도 나타나고 있다. 이날 뉴욕타임스(NYT)에 따르면 앤트로픽은 생물학 무기 개발 가능성이 있는 연구에 자사의 AI 모델 클로드를 활용하려던 시도를 차단했다고 밝혔다.

한편 AI 모델 개발 경쟁으로 인한 위험성이 부각되고 있는 가운데 젠슨 황 엔비디아 최고경영자(CEO)는 인공지능(AI)의 다음 거대 시장은 사이버보안 분야가 될 것이라고 전망했다. 황 CEO는 이날 샌프란시스코에서 열린 골드만삭스 주최 테크놀로지 콘퍼런스에 참석해 "사이버보안이 AI의 다음번 주요 사용 분야가 될 것"이라며 이같이 밝혔다. 그는 AI 모델을 이용한 컴퓨터 프로그래밍의 자동화로 인해 코드를 악용하는 속도가 매우 빨라지고, 그에 비례해 코드를 수정하고 손보는 속도도 빨라짐에 따라 사이버보안 업계의 지형이 바뀌고 있다고 설명했다.

올트먼 CEO 역시 이번 주 미국 전력업체들과 AI 사이버 공격에 대비하기 위한 전력망 보안 강화 방안을 논의했다고 미국 정치 전문 매체 폴리티코가 이날 보도했다.