[김정래의 AI 국가론 ⑪] AI가 지목한 용의자, 어디까지 믿어도 되나

PART 3. AI와 국가의 권력

위험평가 → 감시 → [수사판단]

김정래 아주경제 전국팀장. [사진= 아주경제]

인공지능(AI)이 국가의 행정과 판단 안으로 들어오고 있다. 복지·재난·교통·민원에서 경찰·수사와 규제까지 영역도 빠르게 넓어지고 있다. '김정래의 AI 국가론'은 AI를 기술의 문제가 아닌 국가의 능력과 책임의 문제로 바라본다. 국내외 실제 사례와 데이터를 통해 AI가 행정을 얼마나 바꿀 수 있는지 검증하고, 공무원과 조직은 어떻게 달라져야 하는지 살핀다. 나아가 AI가 공권력과 국민의 관계를 어떻게 바꾸는지 짚고, 중앙정부와 지방정부가 어떤 역할을 맡아야 하는지 묻는다. 목표는 AI를 경계하는 국가가 아니라 AI를 제대로 사용할 줄 아는 국가다. [편집자주]
 

2023년 11월 미국 플로리다주 잭슨빌비치의 한 맥도날드에서 아동 유인 시도 사건이 발생했다. 경찰은 매장 CCTV에 찍힌 남성의 사진을 확보했다.

경찰은 이 사진을 얼굴인식 시스템에 넣었다. 미국시민자유연맹(ACLU)이 2026년 6월 연방법원에 제출한 소장에 따르면 당시 사용된 것은 AI로 구동되는 자동 얼굴인식 시스템이었다. 시스템은 범행 장소에서 300마일 이상 떨어진 포트마이어스에 살던 로버트 딜런(Robert Dillon)을 후보로 찾아냈다.

유사도 점수는 93%였다. 93%라는 숫자는 강력해 보인다. 그러나 딜런이 CCTV 속 인물일 확률이 93%라는 의미는 아니었다. 소장에 따르면 얼굴인식 시스템은 얼굴에서 추출한 정보를 수학적 형태로 변환해 데이터베이스와 비교한다. 93%는 두 얼굴의 정보가 얼마나 유사한지를 나타내는 점수였다.

문제는 그다음부터였다. 경찰은 딜런의 사진을 포함한 사진배열을 목격자에게 보여줬다. 목격자는 딜런을 지목했고 경찰은 이를 토대로 체포영장을 신청했다. 딜런은 2024년 8월 자택에서 체포됐다.

그러나 같은 해 10월 검찰은 그에 대한 혐의를 모두 취하했다. ACLU가 2026년 6월 연방법원에 제출한 소장에 따르면 경찰의 체포영장 신청 과정에서는 딜런에게 유리한 정황이 빠졌다. 용의자가 해당 맥도날드의 단골이라는 진술이 있었고 차량번호판 자동인식 기록에서도 딜런의 차량이 사건 전후 현장 주변에 있었다는 흔적은 확인되지 않았다.

얼굴인식 시스템이 제시하는 것은 범인이 아니라 후보자다. 하지만 후보가 한번 제시되면 수사는 그 사람을 중심으로 움직일 수 있다. 하나의 수사단서가 이후 수사의 방향을 결정할 수 있다.

미국 법원도 이 문제를 다루기 시작했다. 뉴저지주 대법원은 2026년 6월 타이베어 마일스(Tybear Miles) 사건에서 경찰이 어떤 얼굴인식 도구와 자료를 사용했고 그 결과를 수사와 기소에 어떻게 활용했는지 피고인에게 공개해야 한다고 판단했다.

검찰은 얼굴인식 결과가 수사단서일 뿐 재판에서 증거로 사용할 계획이 없다고 주장했다. 법원은 직접 증거로 제출되지 않더라도 수사의 방향과 인물 식별에 영향을 미쳤다면 피고인이 그 과정을 검증할 수 있어야 한다고 봤다.

한국 경찰도 범죄수사에 얼굴인식 기술을 사용하고 있다. 국회예산정책처가 2017년 공개한 추가경정예산안 분석자료에 따르면 경찰청은 2014년 3D얼굴인식시스템 시범사업을 시작했고 2015년부터 시스템을 구축해 운영했다. CCTV 등에 촬영된 용의자의 얼굴과 경찰이 보유한 범죄자 얼굴사진 데이터베이스를 자동으로 비교·검색해 유사한 후보군을 찾는 방식이다.

경찰청은 2017년 3월 이 시스템을 전국으로 확대했다. 당시 경찰청 자료에 따르면 강·절도와 사기 등 범죄자 얼굴사진 13만7000건이 데이터베이스에 구축돼 있었고 전국 형사·수사·여성청소년 분야 수사 담당자 3만870명이 시스템을 사용할 수 있게 됐다. 시스템은 이후에도 고도화됐다. 경찰청의 ‘2025년 자체평가 결과보고서’에 따르면 경찰은 2025년 11월 3D얼굴인식시스템 고도화 사업을 완료했다.

얼굴인식 결과가 실제 형사재판에 등장한 사례도 확인된다. 전주지방법원이 2020년 4월 선고한 판결(2020고합8·2020전고3)을 보면 판결문 ‘증거의 요지’에 CCTV 캡처사진과 함께 경찰의 ‘3D얼굴인식시스템 결과회신’이 포함됐다. 다만 이 사건에는 피고인의 법정진술과 피해자의 경찰진술조서 등 다른 증거도 있었다. 얼굴인식 결과 하나만으로 법원이 피고인의 신원을 확정한 것이 아니다.

그렇다면 형사절차에서 얼굴인식 결과를 다루는 기준도 분명해야 한다. 첫째, 얼굴인식 결과는 수사단서와 증거를 구분해 다뤄야 한다. 시스템이 한 사람을 높은 유사도의 후보로 제시했다는 사실만으로 체포와 구속, 기소의 근거가 충분해지는 것은 아니다. 범죄와 해당 인물을 연결하는 독립적이고 신뢰할 수 있는 증거가 필요하다. 

둘째, 숫자의 의미를 정확히 해석해야 한다. 딜런 사건의 93%처럼 유사도 점수가 제시되더라도 그것을 해당 인물이 범인일 확률로 받아들여서는 안 된다. 시스템이 무엇을 측정한 숫자인지부터 확인해야 한다. 셋째, 얼굴인식이 수사에 사용된 과정을 기록해야 한다. 어떤 영상을 입력했는지, 어떤 시스템을 사용했는지, 몇 명의 후보가 나왔는지, 경찰이 그 가운데 특정인을 선택한 이유가 무엇인지 남겨야 한다.

피고인에게도 자신이 어떻게 용의자로 특정됐는지 확인할 기회가 주어져야 한다. 얼굴인식 결과를 법정에 증거로 제출하지 않는다는 이유만으로 그 과정 전체가 형사절차의 검증 밖에 놓여서는 안 된다.