[김정래의 AI 국가론 ⑨] AI로 예측하는 범죄 위험

PART 3. AI와 국가의 권력

[위험평가] → 감시 → 수사판단

김정래 아주경제 전국팀장. [사진= 아주경제]

인공지능(AI)이 국가의 행정과 판단 안으로 들어오고 있다. 복지·재난·교통·민원에서 경찰·수사와 규제까지 영역도 빠르게 넓어지고 있다. '김정래의 AI 국가론'은 AI를 기술의 문제가 아닌 국가의 능력과 책임의 문제로 바라본다. 국내외 실제 사례와 데이터를 통해 AI가 행정을 얼마나 바꿀 수 있는지 검증하고, 공무원과 조직은 어떻게 달라져야 하는지 살핀다. 나아가 AI가 공권력과 국민의 관계를 어떻게 바꾸는지 짚고, 중앙정부와 지방정부가 어떤 역할을 맡아야 하는지 묻는다. 목표는 AI를 경계하는 국가가 아니라 AI를 제대로 사용할 줄 아는 국가다. [편집자주]
 

범죄가 발생하면 경찰은 증거를 찾고 용의자를 추적한다. 오랫동안 수사는 이미 벌어진 일을 뒤쫓는 일이었다. AI와 데이터 분석은 이 순서를 바꾸고 있다. 과거의 범죄와 신고 데이터를 분석해 범죄가 일어날 가능성이 높은 시간과 장소를 미리 찾는다. 경찰은 그곳에 순찰차와 인력을 먼저 보낼 수 있다.

미국 시카고 경찰은 총격 사건에 연루될 가능성이 높은 사람에게 위험점수를 매기는 ‘전략적 대상자 목록(Strategic Subject List·SSL)’을 운영했다. 시카고시 감사관실이 2020년 1월 공개한 자료에 따르면 2018년 7월 기준 39만9412명이 SSL 위험점수를 받았다. 최근 체포 당시 나이, 총격이나 폭행 피해 경험, 무기 관련 체포, 폭력 사건 연루 등이 평가에 활용됐다.

체포기록도 들어갔다. 유죄판결을 받지 않았더라도 과거의 체포가 미래 위험을 계산하는 자료가 될 수 있었다. 문제는 점수의 용도였다. 위험점수는 사회서비스 연계에만 사용되지 않았다. 상습범 검거·기소 프로그램 등에 활용됐고 2015년부터는 체포보고서에도 표시됐다. 미래의 범죄 가능성을 계산한 숫자가 현재 한 사람을 대하는 공권력에 들어온 것이다.

시카고시 감사관실은 이 모델의 실효성과 운영방식을 조사했다. 조사가 진행되던 2019년 8월 시카고 경찰은 프로그램을 중단할 계획이라고 밝혔고, 같은 해 11월 운영을 종료했다. 감사관실은 이듬해 1월 조사 결과를 공개하며 위험점수의 신뢰성, 데이터 관리, 경찰관 교육과 정보 접근·사용 통제 등에 문제가 있었다고 지적했다.

한국에서도 경찰은 이미 사람의 위험을 판단하고 있다. 가정폭력이 대표적이다. 정부가 공개한 제1차 여성폭력방지정책 기본계획 시행자료에 따르면 경찰은 2019년 실제 112 신고 출동 때 작성된 조사표 1252건 등을 분석해 새로운 ‘가정폭력 위험성 조사표’를 개발했다. 경찰은 이를 이용해 재발 위험을 판단한다.

스토킹과 교제폭력에서도 개인에 대한 위험평가는 확대되고 있다. 경찰은 2025년부터 관계성 범죄 피의자에 대해 프로파일러가 재범 가능성을 평가하고 그 결과를 구속영장 신청 등에 활용하는 제도를 운영하기 시작했다. 여기까지는 조사표와 전문 평가도구를 활용한 판단이 중심이다.

이제 여기에 AI가 들어온다. 경찰은 가해자와 피해자 관련 정보를 통합하고 축적된 데이터를 AI로 분석해 재범위험성을 평가·감지하는 ‘사회적약자보호 종합플랫폼’을 구축하고 있다. 정부 자료에는 2025~2027년 구축 일정이 제시돼 있다.

AI가 개인의 재범 위험을 계산하기 시작하면 어떤 정보로 위험도를 산출했는지 확인할 수 있어야 한다. 신고나 체포기록이 얼마나 영향을 미쳤는지, 경찰관의 최종 판단에 AI의 점수가 어느 정도 작용했는지도 남아야 한다.

개인정보보호법에는 완전히 자동화된 결정에 대한 거부와 설명 요구 등의 장치가 있다. 그러나 경찰관이 AI의 위험점수를 참고해 최종 판단한다면 현행 제도가 어디까지 적용되는지는 따져볼 필요가 있다. 사람이 마지막에 판단했다는 사실만으로 알고리즘이 수사나 구속 판단에 미친 영향까지 통제됐다고 볼 수 있는지는 별개의 문제다.

경찰이 AI로 개인의 위험을 예측한다면 그 결과를 어디까지 사용할 수 있는지부터 정해야 한다. 피해자 보호와 예방에 사용할 것인지, 수사와 체포·구속 등 개인의 권리를 제한하는 판단에도 사용할 것인지 구분해야 한다. 후자에 활용한다면 AI의 점수만으로 불이익을 결정하지 못하도록 별도의 인간 검토를 거쳐야 한다.

입력 데이터에도 기준이 필요하다. 단순 신고나 체포와 유죄판결을 구분하고 오래되거나 잘못된 정보가 계속 개인의 위험도를 높이지 않도록 갱신과 삭제 기준을 둬야 한다. 누가 위험정보를 조회했고 어떤 경찰활동에 사용했는지도 기록해야 한다. 그래야 사후에 사용의 적정성을 확인할 수 있다.