[아주사설 | 6·3 지방선거, AI 선수를 뽑자] ⑫ 데이터 공개 없는 AI 행정은 신뢰를 만들 수 없다

― 자동화의 조건은 효율이 아니라 투명성이다

AI 행정을 둘러싼 논쟁에서 가장 자주 생략되는 단어는 ‘공개’다. 후보들은 AI를 활용해 행정을 혁신하겠다고 말하지만, 무엇을 공개하겠다는지에 대해서는 거의 언급하지 않는다. 데이터는 쌓이지만, 설명은 부족하다. 알고리즘은 작동하지만, 시민은 판단의 근거를 알기 어렵다. 이 간극이 바로 AI 행정이 신뢰를 잃는 지점이다.

민주 행정에서 신뢰는 결과로만 만들어지지 않는다. 과정이 공개될 때 비로소 축적된다. 특히 AI가 개입한 행정일수록 이 원칙은 더 중요해진다. 사람이 판단했을 때보다, 알고리즘이 개입했을 때 시민은 더 많은 설명을 요구할 권리가 있다. “시스템상 그렇게 나왔다”는 말은 효율적인 보고일 수는 있어도, 민주적 설명은 아니다.

지방행정에서 AI가 활용되는 영역은 대부분 시민의 일상과 직결돼 있다. 복지 대상자 선정, 위험 지역 분류, 교통 정책 우선순위, 환경·안전 점검 결과는 단순한 행정 정보가 아니다. 삶의 조건을 바꾸는 결정이다. 그런데 이 결정이 어떤 데이터에 근거했는지, 어떤 기준이 적용됐는지, 누가 최종 판단했는지는 쉽게 공개되지 않는다. 이때 시민은 행정의 주체가 아니라 결과를 통보받는 객체가 된다.

AI 리터러시를 갖춘 리더라면 이 문제를 회피하지 않는다. AI 행정의 핵심은 기술 도입이 아니라 공개의 범위와 방식이라는 점을 이해한다. 어떤 데이터는 공개할 수 있고, 어떤 데이터는 보호해야 하는지. 알고리즘의 모든 코드를 공개할 수는 없더라도, 판단의 기준과 절차는 어디까지 설명할 수 있는지. 이 선을 그을 수 있어야 행정은 신뢰를 유지한다.

중요한 것은 ‘전부 공개하라’는 구호가 아니다. 이해 가능한 수준의 공개다. 시민은 모델의 수식이 아니라, 왜 이런 결과가 나왔는지를 알고 싶어 한다. 어떤 데이터가 사용됐는지, 어떤 집단이 포함되었고 누락될 가능성은 없는지, 오류가 발견되면 어떻게 수정되는지를 알고 싶어 한다. 이 질문에 답하지 않는 AI 행정은 투명하지 않다.

지금의 지방선거 담론은 이 지점을 거의 건드리지 않는다. 후보들은 AI 도입을 미래 비전처럼 말하지만, 데이터 공개와 설명 책임은 기술적인 문제로 밀어낸다. 그러나 공개는 기술의 문제가 아니라 권력의 문제다. 무엇을 감추고 무엇을 드러낼 것인지는 행정 권한의 핵심이다. AI 행정에서 데이터 공개를 말하지 않는다는 것은, 그 권한을 묻지 않겠다는 뜻과 다르지 않다.

이번 6·3 지방선거에서 유권자가 던져야 할 질문은 분명하다. AI를 도입하겠다는 후보에게 이렇게 물어야 한다. “어떤 데이터를 공개하겠는가.” “시민은 이 결정에 대해 어디까지 설명을 들을 수 있는가.” “알고리즘 판단에 이의를 제기할 수 있는 통로는 마련돼 있는가.” 이 질문에 답하지 못한다면, 그 후보는 기술을 말할 준비는 돼 있을지 몰라도 민주 행정을 운영할 준비는 부족하다. 효율은 성과로 평가할 수 있지만, 신뢰는 사전 설계 없이는 만들어지지 않는다.

아주경제가 말하는 ‘AI 선수’는 데이터를 독점하는 리더가 아니다. 데이터를 공개의 언어로 번역할 수 있는 리더다. 기술을 방패로 삼지 않고, 설명의 책임으로 끌어오는 리더다. AI를 말할수록 더 많은 공개를 약속할 수 있는 리더다.

AI 행정은 숨길수록 위험해진다. 공개할수록 민주적이 된다.
6·3 지방선거, 이제는 이렇게 물어야 한다.
“이 후보는 AI를 도입할 준비가 아니라, 데이터를 공개할 준비가 돼 있는가.”
AI 선수를 뽑는다는 것은, 결국 그 공개의 기준을 선택하는 일이다.
 

[그래픽=지피티]