“3중 내부통제장치 마련”…금융위, 금융분야 AI가이드라인 마련

윤리원칙-전담조직-위험관리정책 수립 등 내부통제장치 등이 핵심

[사진=게티이미지뱅크]

금융당국이 인공지능(이하 AI) 기반 금융서비스 개발을 위한 ‘금융분야 AI 가이드라인’을 마련했다.

인공지능(AI) 활용이 금융거래에 미치는 영향이 큰 만큼 금융당국이 ‘AI가이드라인’을 마련했다. 이번 가이드라인은 금융 서비스 전과정에서 윤리원칙을 지킬 수 있도록 3중 내부통제 장치를 마련이 핵심이다.

도규상 금융위원회 부위원장은 8일 ‘제1차 디지털금융협의회 데이터 분과회의’를 주재하고 이 같은 내용을 발표했다.

먼저 가이드라인에서는 AI 금융거래 및 대고객서비스를 적용한 모든 금융업권을 대상으로 내부통제 장치를 마련하도록 했다. 회사별 가치, 원칙과 기준을 세워 AI윤리원칙을 마련한 후, 서비스 전 단계에 거친 AI전담조직을 만들도록 했다. 위험관리정책도 수립하도록 해 ‘윤리원칙-전담조직-위험관리정책’ 등 3중 내부통제장치를 마련하는데 주력했다.

AI학습 데이터에 대한 조사·검증을 강화하고 개인신용정보 오·남용 방지하도록 했다. 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거치도록 했고 AI학습에 이용되는 데이터의 출처, 품질, 편향성 등을 조사하고 검증해 개선토록 했다.

아울러 불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성 제고, 소비자에 AI서비스에 대한 충분한 설명 및 권리행사를 보장도 명시했다.

도 부위원장은 “앞으로는 AI 등 기술혁신이 금융의 질적 변화를 주도할 전망”이라며 “AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 되고, 데이터 처리의 속도와 정확성이 제고되면서 금융거래비용은 낮아지고 금융 중개기능의 효율성은 높아질 것”이라고 기대했다.

다만 “AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼, 이번 가이드라인을 마련했다”면서 “발생 가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적으로 노력해야 한다”고 강조했다.

이어 “안전하고 효율적인 데이터 관리를 위해 AI 학습데이터의 품질을 엄격히 관리하고 개인정보보호 체계도 한층 강화해야 한다”며 “금융서비스가 합리적이고 공정한 기준에 따라 제공·관리된다는 금융소비자의 믿음을 확보할 수 있도록 상식·사회규범에 어긋나지 않는 AI 서비스 운영을 도모해야 할 것”이라고 말했다

아울러 “사람에 의한 금융서비스를 제공 받을 때와 같이, 금융소비자가 서비스를 이해하고, 자신의 권리를 불편함 없이 행사토록 지원해야 한다”며 “금융권의 지속적인 협조와 노력이 필요하다”고 덧붙였다.

가이드라인은 연내 시행될 예정이다. 또 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영해 3분기 내 실무지침을 마련할 예정이다.