"AI로 매크로·불량 게이머 잡아낸다"…게임업계, 법 미비에 직접 단속 확대

현행 처벌 수준 '솜방망이'…불법 프로그램 원천 차단 어려워

크래프톤‧엔씨, AI 활용해 불법 차단 능력 고도화

넥슨은 AI로 유해 콘텐츠 차단 혁신

 

게임사들이 게임 관련 불법 수단 탐지‧제재에 대한 인공지능(AI) 활용도를 높이고 있다. AI 기술 발전과 함께 불법 프로그램도 고도화하고 있기 때문이다. 현행법상 매크로(불법 자동화) 행위에 대한 처벌 수위가 솜방망이 수준에 그치는 만큼 자체 기술 역량을 앞세운 자구책 마련에 나서고 있다.
 
14일 게임산업진흥 관련 법률에 따르면, 불법 매크로 프로그램 제작‧배포는 ‘5년 이하 징역’ 또는 ‘5000만원 이하 벌금’을 처벌받을 수 있다. 문제는 이 정도 처벌 수위론 불법 매크로 현상을 해결하기 어렵단 것이다. 매크로로 얻는 수익은 수백억원에 달하기도 해, 5000만원 벌금은 실효성을 갖기 어려운 수준이란 지적이다.
 
제작자 외 사용자를 직접 처벌할 근거도 없다. 지난해 8월 국회에 불법 프로그램 이용자 처벌 조항을 담은 게임산업법 개정안이 발의됐지만, 1년 넘게 계류 중이다.
 
상황이 이렇자 게임사들은 AI 역량을 활용한 직접적인 해결책 마련에 나섰다.
 

크래프톤은 최근 자사 대표 게임 ‘펍지:배틀그라운드’에 AI 기반 차단 솔루션을 적용했다. 온라인상에 노출되는 게임 관련 불법 프로그램 광고 게시물을 효율적으로 막기 위한 조치다. 온라인상 불법 프로그램 광고 문구, 이미지, 영상 등 다양한 형태 콘텐츠를 자동으로 탐지‧차단할 수 있도록 설계했다. 크래프톤 측은 “게임 내 핵(불법 능력치 극대화) 프로그램 이용자를 찾는 것만큼, 정보 습득 경로를 막아 잠재 핵 구매 이용자 막는 것도 중요한 문제”라고 설명했다.
 
성과는 고무적이다. 해당 솔루션을 지난 7~8월 2달간 시범 운영한 결과, 관련 신고 건수가 작년 1337건서 1만2927건으로 1년 새 9.6배 증가했다. 같은 기간 삭제 건수도 1328건서 1만1205건으로 8.4배 늘었다.
 
엔씨소프트는 자체 AI 도구 ‘세이프가드’를 활용해 지난 13일 ‘블레이드앤소울 네오’ 내 불법 프로그램 사용 계정 2121개를 제재했다. 세이프가드는 3개의 팀 구조 형태로 운용된다.
 
‘레드팀’은 AI 취약점을 악용할 수 있는 새로운 공격 방식을 연구하고, ‘블루팀’은 그에 대한 대응 기술을 구축한다. ‘퍼플팀’은 이들 연구‧결과를 종합해 정책‧필터링 기준으로 반영하는 역할을 맡는다. 보안 위협을 먼저 실험하고, 대응 방어 기술을 개발한 다음 실시간 정책으로 전환하는 구조다.
 
넥슨은 ‘퍼스트 디센던트’에 AI를 활용한 유해 닉네임 자동 관리 체제를 완성했다. 스노우플레이크의 AI 플랫폼인 ‘코텍스 AI’, 자사 업무수행 자동화 도구 ‘태스크 위버’, 차단어·유해어 통합 관리 시스템 ‘BWS’ 등을 활용했다.
 
BWS에 미등록된 유해 닉네임을 따로 분류한 뒤, AI로 유해도 점수를 산출한다. 유해도 점수가 0.9점을 넘으면 태스크 위버가 자동으로 닉네임을 변경한다. 서비스 적용 후 최초 한 달간(5월 20일~6월 20일) 유해 닉네임 신고 건수는 일 평균 158.8건으로 집계됐다. 지난 8월 7일 시즌3 업데이트를 진행한 뒤엔 2주간 일 평균 신고가 250.9건까지 늘었다.
 
넥슨 관계자는 “게임에 처음 접속할 때 유해 문구를 접한 이용자는 게임을 떠날 확률이 320%가량 늘기도 한다”며 “넥슨 게임 운영 역량에 AI를 더해 유해 콘텐츠 차단 효과를 혁신한 대표적 사례”라고 설명했다.