日 기업 약 80곳 겨냥한 中 AI '아르텍스'…모의 실험서 정보 빼내기까지 15초

한국 금융권 해킹에 악용 정황…中 AI 모의침투 프로그램, 일본서도 사용
여러 AI에 물어 가며 빈틈 탐색…공개 중단해도 사본·개조판 남아

일본에서 최근 대규모 개인정보 유출 등 사이버 공격이 잇따르는 가운데, 한국 금융권 연쇄 해킹에 악용된 것으로 알려진 중국산 인공지능(AI) 모의침투 프로그램 '아르텍스(ARTEX)'가 일본 기업 약 80곳을 노린 공격에도 쓰인 정황이 드러났다. 일본 보안업체가 이 프로그램으로 모의 실험을 한 결과, 짧은 지시만으로 AI가 스스로 웹사이트의 빈틈을 찾아 가상 이용자 정보를 빼내기까지 약 15초가 걸렸다. 기업도 보안 점검과 방어에 AI를 활용해야 한다는 지적이 나온다.

22일 요미우리신문에 따르면 대기업을 포함해 일본 수천 개 기업의 시스템 보안을 맡고 있는 보안업체 S&J는 지난 7일 아르텍스를 내려받아 모의 웹사이트에서 성능을 시험했다. 아르텍스는 주어진 목표에 따라 스스로 작업을 계획하고 실행하는 AI 에이전트다. 익명의 엔지니어가 기업 보안 점검용으로 개발해 지난 7월 인터넷에 공개했고, 8~9월 중국에서 열린 보안 기술 대회에서 우승하기도 했다. 지금은 공개가 중단된 상태다.

업체 측은 아르텍스에 미국 앤스로픽의 AI '클로드'를 연계한 뒤 약 150자의 일본어로 이 모의 사이트의 취약점을 진단하고 개인정보를 수집하라고 지시했다. 약 15초 뒤 화면에 '수집이 완료됐다'는 메시지가 떴다. 실제로 사이트에 등록해 둔 가상 이용자들의 개인정보가 수집돼 있었다. 이 모의 사이트는 표준적인 보안 조치를 갖추고 있었지만 아르텍스는 작은 빈틈을 순식간에 찾아냈다. 총무성 자문역을 지낸 미와 노부오 S&J 사장은 "사람이라면 며칠 걸릴 작업을 몇 초나 몇 분 만에 끝내 버린다"며 "온갖 사이버 공격에 AI 에이전트가 쓰이고 있다고 봐도 된다"고 말했다.

관련기사

실제 일본 기업을 겨냥한 공격에서도 아르텍스 사용이 확인됐다. 니혼게이자이신문(닛케이)에 따르면 또 다른 일본 보안업체인 GMO사이버시큐리티가 공격자들이 사용한 서버 6대를 조사한 결과, 6대 모두에서 아르텍스가 가동된 흔적이 나왔다. 공격 대상은 거의 전부 일본 IP 주소였으며, 표적이 된 일본 기업은 약 80곳으로 파악됐다. GMO 측은 발견된 서버가 빙산의 일각으로, 다른 공격 서버와 표적 기업이 더 있을 수 있다고 설명했다.

공격자는 서버마다 업종을 나눠 표적을 관리했다. 닛케이에 따르면 '디지털 상품권·소매유통', '보험·금융', '전자상거래(EC)' 등이 서버별 표적이었다. 조사를 맡은 후쿠모리 다이키 GMO사이버범죄대책센터 국장은 공격 대상이 지나치게 늘어나는 것을 막으려고 서버별로 AI에 업종을 지정했을 것으로 추정했다. 업종에 따라 노리는 정보가 신용카드 정보나 ID·비밀번호 등으로 달라 업종을 나눠 두면 탈취한 데이터를 돈으로 바꾸는 작업도 쉬워진다는 설명이다.

기하라 미노루 관방장관은 20일 기자회견에서 일본 기업을 겨냥한 사이버 공격이 잇따르는 데 대해 "AI 악용 가능성을 분석하고 있다"며 "외국 세력의 개입 가능성을 비롯한 모든 가능성을 열어 두고 공격 주체와 공격이 시작된 곳을 규명하는 데 힘쓰겠다"고 밝혔다.

닛케이에 따르면 아르텍스는 특정 AI 모델 하나에 의존하지 않고 미국과 중국 등의 여러 모델을 조합해 작동한다. 후쿠모리 국장은 피해 기업의 시스템을 분석한 뒤 "일정한 규칙에 따라 움직이는 기존 프로그램과 달리, 침입 이후 상황에 맞춰 유연하게 행동하는 데서 'AI다움'을 느꼈다"고 말했다.

닛케이가 인용한 미국 보안업체 지스케일러의 분석에 따르면 한국 금융기관을 겨냥한 공격에서 중국의 딥시크와 즈푸AI, 미국의 대화형 AI '그록' 등의 모델이 아르텍스를 통해 사용된 흔적이 발견됐다. 요미우리는 아르텍스가 공격 방법을 찾는 과정에서 이들 AI에 물어가며 답을 얻은 것으로 보인다고 전했다.

아르텍스가 AI의 악용을 막는 안전장치까지 우회했을 가능성도 제기됐다. 요미우리에 따르면 주요 AI에는 범죄에 이용될 우려가 있는 요청을 거절하는 '가드레일' 기능이 마련돼 있다. 그러나 미와 사장은 아르텍스 자체의 가드레일이 "형식적인 수준"이어서 쉽게 우회할 수 있었다고 평가했다. 또 실험에서 연결한 클로드에도 아르텍스가 안전장치를 피하는 방식으로 질문해 공격에 쓸 정보를 얻었을 가능성이 있다고 분석했다.

닛케이에 따르면 아르텍스의 이용약관은 용도를 개인 학습과 연구, 기술 검증으로 제한했다. 개발자는 악용 사실이 드러나자 이달 8일 "기업과 조직의 방어 능력을 높이기 위한 보안 점검이 목적"이라며 "악용은 내 의도에 반한다"고 밝히고 프로그램을 비공개로 전환했다.

그러나 공개 중단만으로 위협이 사라지지는 않는다. 지스케일러는 비공개 전환 전에 내려받은 사본을 계속 사용할 수 있다고 경고했다. 요미우리에 따르면 공격 성능을 높인 아르텍스 개조판도 인터넷에 돌고 있는 것으로 알려졌다. 후쿠모리 국장은 일부 공격자가 이런 AI 프로그램을 직접 개발할 수 있어 완전한 규제가 어렵다고 지적했다.

한편 사이버 보안에 AI를 활용해 성과를 거둔 사례도 있다. 요미우리에 따르면 일본의 한 보안업체는 고객사 허가를 받아 해당 기업의 실제 웹사이트를 아르텍스로 점검해 기존에 일본 IT 기업의 검사에서 찾지 못했던 취약점 여러 건을 발견했다. 미와 사장은 "기업도 AI를 활용해 자사 시스템의 취약점을 철저히 조사하고 방어할 필요가 있다"며 개인정보가 담긴 데이터베이스를 집중적으로 감시하는 등 보안 조치를 강화해야 한다고 강조했다.