​"AI 윤리는 CEO 담당"...윤리원칙 중요성 인식 커져

IBM 기업가치연구소, AI 윤리 인식 조사 발표

10명 중 8명, 비 기술 분야 임원 AI 윤리 맡아야

실제 AI 윤리 실행은 더뎌...다양성과 포용성 확보 필요

[사진=게티이미지뱅크]

전 세계 기업 관리자는 기업 내 인공지능(AI) 윤리를 기술직군이 아닌 최고경영자(CEO) 등 비 기술 분야 임원이 담당해야 하는 것으로 인식했다.

IBM 기업가치연구소(IBV)는 26일 'AI 윤리 실천: 신뢰할 수 있는 AI의 발전을 위한 기업 지침서'를 공개했다. 조사 결과 응답자 10명 중 8명은 CEO 등 비 기술 분야 임원이 AI 윤리를 담당해야 한다고 꼽았다. 지난 2018년에는 동일한 질문에 대해 15%가 이와 같은 답변을 했으며, 이를 통해 기업의 AI 윤리 조성과 실행에 관한 인식이 크게 변한 것으로 나타났다.

보고서에 따르면, 응답자들은 AI 윤리 부문의 가장 큰 책임자로 CEO(28%)를 꼽았다. 이밖에 이사회 임원진(10%), 최고법률책임자(10%), 개인정보보호 책임자(8%), 리스크·컴플라이언스 담당자(6%)가 뒤를 이었다. 또한 응답자 66%는 조직의 CEO 등 C-레벨 경영진이 기업의 윤리 전략에 큰 영향을 미친다고 답했고, 50% 이상이 이사회 임원(58%)과 주주공동체(53%)를 꼽았다.

이번 조사에 참여한 기업 경영진 75% 이상은 AI 윤리는 기업에 중요하다고 동의한다고 답해, 2018년 동일 질문에 대한 응답 비율 50%에서 늘어난 것으로 나타났다. 또한, 응답자 75%는 윤리성이 기업의 차별화된 경쟁력이라고 답했다. AI와 AI 윤리를 중요하게 여긴다고 답한 응답자 중 67%는 자사 조직이 경쟁사 대비 지속가능성, 사회적 책임, 다양성 및 포용성 측면에서 더 나은 성과를 거두고 있다고 답했다.

또한 많은 기업이 AI 윤리를 실행에 옮기기 시작한 것으로 나타났다. 실제 응답자 중 절반 이상은 AI 윤리를 기존 기업 윤리에 접목하는 데 착수하고 있다고 답했다. 응답자 중 45% 이상은 자신의 조직에서 AI 프로젝트 위험 평가 프레임워크, 감사·검토 프로세스와 같은 AI 윤리 관련 체계를 만들었다고 답했다.

AI 솔루션에 윤리 원칙 포함에 대한 중요성을 인지하는 한편, 조직의 실제 실행 속도는 아직 더딘 것으로 조사됐다. 보고서에 따르면 79%의 CEO가 AI 윤리를 AI 관련 업무에 포함할 준비가 됐다고 답해, 2018년 20% 대비 크게 늘어났다. 또한, 응답 기업 중 절반 이상이 AI 윤리의 공통 원칙을 공개적으로 지지했다.

하지만 실제 AI 윤리를 실제로 도입 또는 시행 중이라고 답한 곳은 25% 미만에 불과했고, 조직의 관행과 행동이 AI 윤리의 원칙과 가치에 일치한다고 강하게 동의한 응답자 역시 20% 미만으로 나타났다.

더불어 조직 68%는 AI의 편견을 낮추기 위해서는 다양성과 포용성을 갖춘 근무 환경을 조성하는 것이 중요하다고 답했다. 반면 기업의 AI 조직 내 여성 비율은 5.5배, 성소수자 비율은 4배, 인종 다양성은 1.7배 낮은 것으로 나타나, 조직 전반 대비 다양성이 떨어지는 것으로 나타났다.

지저스 만타스(Jesus Mantas) IBM 컨설팅 글로벌 매니징 파트너는 "오늘날 많은 기업이 사업 전반에서 AI 알고리즘을 사용함에 따라, 공정하고 안전하며 신뢰할 수 있는 AI 알고리즘 설계에 대한 조직 내외의 요구사항은 증가할 것이다. 그럼에도 불구하고 산업 전반에서 실제 AI 윤리 가치를 적극적으로 도입하는 기업은 아직 많지 않은 것으로 나타났다"며 "이번 IBM 기업가치연구소의 연구 결과는 신뢰할 수 있는 AI 구축이 단순히 규정을 준수하는 문제가 아니라 비즈니스 필수 사항인 동시에 사회적 기대치임을 보여준다. 따라서 기업은 AI 전체 수명 주기에 걸쳐 거버넌스 모델을 구현하고 윤리적 원칙을 포함할 수 있다"고 말했다.

IBV는 이번 조사 결과를 바탕으로 기업 의사결정권자에게 필요한 행동 사항을 제시했다. 우선 다양한 부서와 기능을 아우르는 통합적 협업 접근 방식의 필요성을 권고했다. AI 윤리는 개발 과정에 참여하는 모든 이해관계자의 다양한 역량 전체와 교차 협업 접근 방식이 필요하다. 이에 최고 경영진, 디자인, 행동 과학자, 데이터 과학자, AI 엔지니어 등 관계자 모두는 신뢰할 수 있는 AI 개발 과정 속에서 각기 고유한 역할을 담당한다.

또한 AI 윤리 규율을 운영하기 위한 조직과 AI 수명주기 거버넌스 확립을 제안했다. 책임감을 가지고 AI를 개발하기 위해 올바른 문화 구축에서 실행, 정책, 제품에 이르기까지 전체 AI 수명주기에 걸쳐 AI 솔루션을 장려하고 관리하는 전체적인 접근방식을 취해야 한다고 말했다.

아울러 AI 기술 파트너, 학계, 스타트업, 기타 생태계 파트너와의 협업을 통해 기업의 접근 방식을 확장하고 '윤리적 상호 운용성'을 구축해야 한다고 조언했다.