짧은 명령어 하나에 내부망 침투까지...AI 자율 해킹 현실화

안랩 시큐리티 인텔리전스, 아르텍스 모의 침투 실험 결과 공개

단편적인 보안 탐지 지적…아르텍스, 기능·호출 도구 따라 다른 네트워크 방식 활용

[사진=챗gpt]

짧은 명령어 하나만으로 인공지능(AI) 자율 침투 도구가 알아서 취약점을 찾아내고 외부 웹 서버를 침투해 내부망까지 침투하는 등 원격 명령을 실행한 것으로 드러났다. 

18일 업계에 따르면 안랩 시큐리티 인텔리전스 센터는 최근 공개한 보고서에서 오픈소스 AI 자율 침투 프레임워크인 아르텍스(ARTEX)의 실제 위협 수준을 검증한 모의 침투 실험 결과를 공개했다. 

아르텍스는 거대언어모델 멀티 에이전트를 기반으로 동작하는 자율형 침투 도구로, 사람이 세부적으로 명령을 내리지 않아도 목표 설정과 계획 수립, 도구 실행을 담당하는 에이전트들이 유기적으로 연결돼 있다. 이에 정찰, 취약점 탐색, 공격 경로 수립, 도구 실행 및 검증을 자율 반복한다. 

안랩은 별도 모의 환경에서 아르텍스의 침투 한계를 시험했다. 취약점이나 서비스명을 구체적으로 알려주지 않았으나 AI는 스스로 진입점을 찾아 공격을 완수했다. 웹 서버 환경에서는 페이지 내 파일 업로드 허점을 스스로 찾아내 웹 셸을 올린 뒤 임의 프로그램을 실행했다. 

기업형 소프트웨어 노출 환경에서는 자체 소프트웨어 취약점을 통해 경계 서버에 초기 접근한 뒤, 내부 자산과 계정을 조사해 내부망 호스트 4대에서 원격 명령을 실행하는 내부망 측면 이동까지 사람의 개입 없이 도달하기도 했다. 

아르텍스는 단순 개념 검증을 넘어 실제 공격 인프라로 악용되고 있는 정황도 드러나고 있다. 

안랩은 아르텍스 웹 콘솔 특징을 추적했다. 그 결과 인터넷 프로토콜(IP)은 지난 14일 기준 900개를 넘어섰다. 앞서 600개 IP를 전수 분석한 결과에서 미국이 53.7%로 가장 많았고 중국 19.8%, 홍콩 11.2%, 싱가포르 5.5%로 집중돼 있었다. 

아르텍스가 설치된 일부 호스트 서버에서는 공격자가 내부망 탐색과 침투, 원격 데스크톱 연결 중계 등에 실제 사용한 것으로 보이는 오픈 디렉터리 2곳이 발견됐다. 

이들 경로에서 윈도와 리눅스를 넘나들며 내부망을 장악할 수 있는 스크립트와 악성코드 등 파일 51개를 안랩이 확보했다. 해당 파일에는 쿠버네티스 환경 내 85대의 활성 시스템 스캔 결과와 시스템 메모리 덤프에서 계정 정보를 수출하는 스크립트 등이 담겨 있었다. 

AI 자율 해킹이 현실로 다가온 가운데 안랩은 기존의 단편적인 보안 탐지 방식이 한계에 이르렀다고 경고했다. 아르텍스는 기능과 호출 도구에 따라 서로 다른 웹 브라우저 식별 정보 값을 넘기거나 일반 웹 통신이 아닌 다른 네트워크 방식을 활용해 흔적을 지웠다. 이는 곧 특정 네트워크 문자열이나 도구 이름 하나만으로는 AI 기반 공격을 탐지·차단하기 어렵다는 것을 뜻한다. 

안랩은 "AI에이전트가 서비스 탐색부터 권한 탈취, 내부망 침투까지 전 과정을 단절 없이 자동화하고 있다"며 "외부에 노출된 미사용 서비스를 줄이고 취약점을 신속히 보완하는 기본 조치와 함께, 단말 탐지·대응 솔루션과 네트워크, 인증 로그를 유기적으로 연계해 전체 공격 흐름을 조기에 식별하는 확장 탐지·대응 체계 구축이 필수적"이라고 밝혔다.