서울시, '서울형 AI 윤리' 제정…1월부터 공공행정 본격 적용

공공성·공정성·투명성·책임성·안전성 등 5대 원칙 중심 기준 제시

‘서울형 AI 윤리’ 비전도. [사진=서울시]

서울시가 신뢰할 수 있는 인공지능(AI) 행정 구현을 위해 ‘서울시 인공지능 활용 윤리 지침’을 제정하고 올해부터 공공행정 전 분야에 본격 적용한다.

서울시는 4일 AI 활용 기준으로 공공성·공정성·투명성·책임성·안전성 등 다섯 가지 원칙을 설정해 이를 ‘서울형 AI 윤리 기준’으로 정립했다고 밝혔다.

지침에 따르면 서울시는 인공지능을 단순한 행정 효율화 수단이 아니라 시민 전체 삶의 질을 높이는 공공의 도구로 활용한다는 원칙을 분명히 했다. AI 도입 여부와 활용 방식은 공공 목적과 시민 복리 증진에 기여하는지를 최우선 기준으로 삼도록 했다.

또 인공지능 기반 행정서비스가 특정 계층이나 집단에 불리하게 작용하지 않도록 알고리즘 편향을 최소화하고 누구나 차별 없이 이용할 수 있도록 공정성과 형평성을 핵심 원칙으로 제시했다.

AI 활용 과정과 결과에 대해 시민이 이해할 수 있도록 설명 가능성을 확보하는 것도 주요 내용이다. AI의 역할과 판단 근거를 가능한 범위 내에서 공개해 행정의 투명성과 신뢰를 높이겠다는 취지다.

아울러 인공지능은 의사결정을 보조하는 수단에 그치며 최종 판단과 책임은 행정을 담당하는 사람이 지도록 해 인간의 감독과 책임 원칙을 명확히 했다. 개인정보 보호와 시스템 보안을 강화해 안전한 AI 이용 환경을 조성하는 내용도 지침에 포함됐다.

이번 지침은 지난해 9월 제정된 ‘서울시 인공지능윤리 기반 조성에 관한 조례’에 따른 후속 조치다. 국가 차원의 인공지능기본법과 행정안전부의 공공부문 AI 윤리 원칙을 반영하되 서울시 행정 환경에 맞게 구체화한 것이 특징이다.

적용 범위는 서울시 본청과 자치구는 물론 투자·출연기관, 위탁·용역 수행기관 등 서울시 행정업무 수행 과정에서 AI를 활용하는 모든 주체를 포괄한다. 서울시 외부에서 이뤄진 AI 활용이라 하더라도 그 결과가 시 행정이나 시민 권익에 직접적인 영향을 미칠 때에는 지침을 적용한다.

서울시는 향후 AI 기술 발전과 정책 환경 변화에 따라 지침 운영 과정에서 나타나는 사례와 현장 의견을 반영해 지속적으로 보완·개선해 나갈 방침이다.

강옥현 서울시 디지털도시국장은 “AI가 행정의 일상적 도구가 되는 시대에 시민의 권리를 지키면서 기술을 책임 있게 활용하기 위한 기준”이라며 “윤리와 신뢰를 기반으로 한 AI 행정을 통해 서울이 인공지능 선도 도시로 나아가겠다”고 말했다.