[아주사설 | 6·3 지방선거, AI 선수를 뽑자] ⑥AI 행정의 성패는 기술이 아니라 '책임을 묻는 구조'에 달려 있다

― 실패를 설명할 수 있는 리더십이 있는가

AI 시대의 지방행정에서 가장 간과되는 질문은 이것이다.
“이 판단이 틀렸을 때, 누가 어떻게 책임지는가.”
 

AI 도입을 약속하는 선언은 넘쳐나지만, 실패의 책임을 어떻게 관리할 것인지에 대한 설명은 좀처럼 등장하지 않는다. 효율과 자동화, 예측 정확도는 강조되지만, 오판과 오류가 발생했을 때의 책임 구조는 흐릿하다. 그러나 민주 행정에서 가장 중요한 것은 성공의 약속이 아니라 실패에 대한 준비다.
 

[그래픽=지피티]

AI는 정책 판단을 돕는 도구다. 그러나 도구가 정교해질수록 책임의 주체는 더 분명해야 한다. “AI가 그렇게 분석했다”는 말은 설명이 될 수는 있어도 책임이 될 수는 없다. 책임이 사라지는 순간, 기술은 행정을 강화하는 수단이 아니라 책임을 분산시키는 장치로 전락한다.
 

특히 지방행정은 실험의 공간이다. 교통·복지·환경·재난 대응처럼 주민의 일상과 직결된 영역에서 AI 활용은 불가피하다. 동시에 그만큼 오판의 비용도 크다. 데이터가 충분하지 않은 지역, 소수 집단이 쉽게 누락되는 구조 속에서 AI 분석은 언제든 편향을 낳을 수 있다. 이때 중요한 것은 ‘완벽한 시스템’이 아니라, 문제가 발생했을 때 이를 드러내고 수정할 수 있는 책임의 구조다.
 

AI 리터러시를 갖춘 리더란 기술을 잘 아는 사람이 아니다. 실패의 가능성을 전제로 정책을 설계하는 사람이다. 어떤 결정이 AI 분석에 근거했는지, 인간의 판단은 어디에서 개입했는지, 오류가 발생하면 어떤 절차로 재검토할 것인지 설명할 수 있어야 한다. 이 설명 능력이 곧 책임 능력이다.
 

그러나 지금의 지방선거 담론은 이 지점에 거의 닿지 못하고 있다. 후보들은 AI 도입을 미래 비전처럼 말하지만, 실패의 관리에 대해서는 침묵한다. 감사 체계, 재검증 절차, 주민 설명 방식 같은 구체적 장치는 공약집에서 찾기 어렵다. 기술은 등장하지만, 책임은 빠져 있다.
 

이 공백은 제도의 문제이기도 하다. 선출직 단체장은 임기 동안 수많은 기술적 결정을 내리지만, 그 결정 과정과 책임 구조를 사전에 검증받을 의무는 거의 없다. 선거 과정에서도 “어떻게 책임질 것인가”라는 질문은 주요 쟁점으로 다뤄지지 않는다. 그 결과, 기술 실패는 종종 전임 탓, 외주 탓, 시스템 탓으로 흘러간다.

 

AI 시대의 행정은 더 많은 권한을 요구한다. 더 많은 데이터 접근, 더 많은 자동화, 더 빠른 결정이 필요하다. 그렇다면 그에 상응하는 책임의 밀도 역시 높아져야 한다. 권한은 커지는데 책임은 느슨해진다면, 그 행정은 민주주의와 충돌할 수밖에 없다.
 

이번 6·3 지방선거에서 유권자가 던져야 할 질문은 분명하다.
AI 도입을 말하는 후보에게 이렇게 물어야 한다.
“이 정책이 실패했을 때, 누구의 이름으로 설명하겠는가.”
“AI 판단과 인간 판단이 충돌할 때, 최종 기준은 무엇인가.”
“오류가 드러났을 때, 이를 공개하고 수정할 제도는 준비돼 있는가.”
 

이 질문 앞에서 머뭇거리는 후보라면 아직 준비되지 않았다.
AI 시대의 리더십은 성공을 약속하는 능력이 아니라, 실패를 설명할 수 있는 능력에서 드러난다.
 

아주경제가 말하는 ‘AI 선수’는 기술을 앞세운 사람이 아니다.
책임을 구조화할 줄 아는 사람이다.
판단의 근거를 공개하고, 오류를 숨기지 않으며, 실패를 학습으로 전환할 수 있는 리더다.
 

6·3 지방선거는 기술 경쟁의 무대가 아니다.
책임을 감당할 리더를 고르는 자리다.
AI를 말하는 후보에게 이제는 이렇게 물어야 한다.
“당신은 성공뿐 아니라 실패까지 책임질 준비가 돼 있는가.”
 

AI 선수를 뽑는다는 것은, 바로 그 질문에 답할 수 있는 리더를 선택하는 일이다.