김정래의 AI 국가론 ⑩ AI가 당신 얼굴을 수집·추적하기 시작했다

PART 3. AI와 국가의 권력

위험평가 → [감시] → 수사판단

김정래 아주경제 전국팀장. [사진= 아주경제]

인공지능(AI)이 국가의 행정과 판단 안으로 들어오고 있다. 복지·재난·교통·민원에서 경찰·수사와 규제까지 영역도 빠르게 넓어지고 있다. '김정래의 AI 국가론'은 AI를 기술의 문제가 아닌 국가의 능력과 책임의 문제로 바라본다. 국내외 실제 사례와 데이터를 통해 AI가 행정을 얼마나 바꿀 수 있는지 검증하고, 공무원과 조직은 어떻게 달라져야 하는지 살핀다. 나아가 AI가 공권력과 국민의 관계를 어떻게 바꾸는지 짚고, 중앙정부와 지방정부가 어떤 역할을 맡아야 하는지 묻는다. 목표는 AI를 경계하는 국가가 아니라 AI를 제대로 사용할 줄 아는 국가다. [편집자주]
 

1년 동안 314만7436명의 얼굴이 경찰의 AI 카메라에 포착됐다. 이 가운데 962명이 체포됐다. 영국 런던에서 벌어진 일이다. 범죄자를 찾기 위해 설치한 카메라는 거리를 지나던 수백만명의 얼굴까지 분석했다. 범죄 혐의가 없는 시민도 예외는 아니었다.

런던경찰청이 2025년 9월 공개한 연례보고서에 따르면 2024년 9월부터 1년 동안 범죄취약지역에서 실시간 얼굴인식(Live Facial Recognition·LFR)이 203차례 운영됐다. 주요 행사 경비를 위한 4차례까지 포함하면 총 207차례다. 카메라가 포착한 얼굴은 AI를 통해 경찰의 감시대상 명단과 대조됐다. 일치 가능성이 확인되면 현장 경찰관에게 알림이 전달됐다.

기존 CCTV가 사건 발생 이후 범인을 찾는 수단이었다면 LFR은 범죄가 발생하지 않은 순간에도 사람의 신원을 확인할 수 있다. 다만 런던경찰청은 감시대상과 일치하지 않는 얼굴의 생체정보를 즉시 삭제한다. 모든 시민의 얼굴을 저장하거나 이동 경로를 지속적으로 추적하는 것은 아니다. 그럼에도 경찰이 거리를 지나는 불특정 다수의 얼굴을 실시간으로 식별할 수 있다는 사실은 달라지지 않는다. 

문제는 이 권력을 어디까지 허용할 것인가다. 영국 법원도 같은 질문을 던졌다. 2020년 항소법원은 사우스웨일스 경찰의 얼굴인식 운영을 위법하다고 판단했다. 기술 자체가 문제는 아니었다. 누구를 감시대상 명단에 올리고 어디에서 얼굴인식을 사용할 것인지에 대한 경찰의 재량이 지나치게 넓었다. 시민의 얼굴을 식별하는 권한에 명확한 경계가 없다는 것이었다. 

2026년 4월에는 다른 판단이 나왔다. 영국 고등법원은 런던경찰청의 개정된 LFR 정책에 대한 소송에서 원고의 청구를 기각했다. 감시대상 선정과 사용 장소 등에 관한 기준과 통제장치가 자의적인 권한 행사를 막기에 충분하다고 본 것이다. 두 판결은 서로 다른 경찰기관의 정책을 심사한 결과이지만 중요한 공통점이 있다. 얼굴인식의 적법성을 결정하는 것은 기술의 성능만이 아니라 국가가 그 기술을 사용하는 권한과 통제 기준이라는 사실이다. 

한국도 이 문제에서 자유롭지 않다. 경찰청은 2025년 AI로 CCTV 영상을 분석해 실종아동의 동선을 추적하는 기술을 개발하고 있다고 밝혔다. 실종자를 찾는 기술과 불특정 다수의 얼굴을 실시간으로 감시대상 명단과 대조하는 기술은 구분해야 한다. 그러나 AI를 활용한 영상 분석이 고도화될수록 경찰의 식별·추적 능력이 확대될 가능성은 충분하다.

국가인권위원회는 이미 2023년 관련 법률이 마련될 때까지 공공기관과 공공장소에서 실시간 원격 얼굴인식 기술을 사용하지 않도록 권고했다. 국무조정실도 개별 법령에 근거가 없다면 도입하지 않겠다는 입장을 밝혔다. 기술의 도입보다 법적 근거가 먼저라는 의미다.

그렇다면 법은 무엇을 정해야 하는가. 핵심은 국가가 누구를, 어떤 이유로, 어디까지 식별하고 추적할 수 있느냐다. 수배자나 실종자를 찾는 경우와 범죄 가능성을 이유로 특정인을 감시하는 경우는 다르다. 사용 목적과 장소, 기간뿐 아니라 감시대상 선정 기준도 법률로 제한해야 한다. AI가 일치 가능성을 알렸다는 이유만으로 경찰의 강제조치가 이뤄져서도 안 된다. 최종 판단과 책임은 경찰관에게 있어야 한다.

얼굴정보의 보관과 삭제도 중요하다. 범죄와 무관한 시민의 얼굴정보를 언제 삭제할 것인지, 감시대상 명단에 누구를 포함했는지, 얼굴인식 결과가 어떤 경찰조치로 이어졌는지 확인할 수 있어야 한다. 국가가 시민을 식별하는 권한을 갖는다면 시민에게도 그 권한이 적법하게 행사됐는지 확인할 수 있는 제도적 장치가 필요하다.

경찰관이 거리에서 수백만명의 얼굴을 기억하는 것은 불가능하다. AI는 가능하다. 사람의 눈과 기억에 의존하던 감시가 기계의 연산 능력과 결합하면서 국가의 식별 능력은 과거와 비교할 수 없을 만큼 커지고 있다.

범죄자를 더 빨리 찾을 수 있다는 것은 분명한 이익이다. 그러나 그 이익이 모든 시민의 얼굴을 국가의 식별 대상으로 삼을 수 있다는 허가증이 될 수는 없다.