[전문가기고] AI 시대의 새로운 리스크…보험이 답할 차례

권순일 보험연구원 연구위원. [사진=보험연구원]

휴대폰을 문지르면 세상의 모든 지식을 알려주는 ‘디지털 지니’를 만날 수 있다. 인공지능(AI)은 지식의 전달을 넘어 법률 자문과 복잡한 공정 관리, 창의적 콘텐츠 제작까지 인간의 지적 판단을 보조하는 중요한 역할을 수행하고 있다. 인공지능의 활용은 이미 기업과 국가 경쟁력 강화를 위한 필수 조건으로 자리매김했다. 미국에서는 80% 넘는 기업이, 국내에서도 50%에 달하는 기업이 인공지능을 업무에 활용하는 것으로 나타나고 있다.

디지털 전환과 인공지능의 확산은 산업과 경제뿐 아니라 일상생활 전반을 고도화하고 있다. 그러나 인공지능은 실재하지 않는 정보를 생성하는 환각(Hallucination) 현상을 비롯해 알고리즘 편향, 데이터 침해 등 지금까지 경험하지 못한 새로운 유형의 위험을 초래하고 있다. 실제로 환각으로 인한 허위 판례 생성, 성·인종·정치적 편향, 저작권 침해 등 다양한 인공지능 오작동 및 오용 사례가 보고되고 있다.

최근 미국 위성 라디오 기업 시리어스XM은 인공지능 채용 시스템의 인종차별 문제로 집단소송에 제소됐다. 홍콩 금융회사 직원은 인공지능을 이용한 딥페이크 사기에 속아 340억원을 송금하는 사건이 발생하기도 했다. 이처럼 인공지능 기술의 확산과 활용 범위 확대에 따라 관련 사고는 점차 증가하는 추세다.

스탠퍼드대 인간중심 AI 연구소에 따르면 인공지능 관련 사고는 2023년 149건에서 2024년 233건으로 56.4% 증가했다. 인공지능 사고를 수집·분석하는 연구기관들은 이러한 증가 추세가 앞으로도 지속될 것으로 전망한다.

인공지능의 오류는 확률적 추론 구조에 내재된 불확실성에서 비롯된다고 한다. 인공지능이 도출하는 결과값은 확정적 정답이 아니라 확률적 추정치라는 것이다. 즉 확률적이라는 것은 오류 발생 가능성을 본질적으로 배제할 수 없다는 의미다. 이는 프로그래밍된 로직의 결함과 달리 코드 수정을 통해 바로잡을 수 없다는 것을 의미한다.

기술 혁신이 수반하는 새로운 위험의 등장은 인공지능만의 현상은 아니다. 혁신적인 기술 발전은 언제나 새로운 유형의 위험을 동반해 왔다. 그렇다고 해서 경제와 사회 발전의 원동력인 기술 혁신을 멈출 수는 없다. 중요한 것은 위험의 존재가 아니라 그 위험으로 인한 리스크를 흡수해 줄 수 있는 제도적 장치를 갖추는 것이다. 인류는 기술 혁신을 지속해 왔고, 보험은 항상 혁신적 기술이 초래하는 새로운 리스크의 충격을 흡수하는 역할을 해왔다.

18세기 산업혁명을 견인한 것은 증기기관이었지만 당시 증기보일러의 잦은 폭발은 수천 명의 인명 피해와 재산 손실을 초래했다. 지금은 생소하게 느껴지는 보일러보험이 만들어지며 신기술 도입과 확산의 버팀목이 됐다. 대량생산 시대에는 화재보험과 산재보험이 산업 리스크를 감당했으며, 제2차 세계대전 이후 사회 재건 과정에서는 개별 기업이 감당하기 힘든 대규모 리스크를 건설공사보험이 분산해 인프라 구축을 지원했다. 최근 디지털 혁명기에는 사이버보험이 정보화 과정에서 발생하는 사이버 리스크를 관리·분산함으로써 디지털 전환을 촉진하고 있다.

인공지능은 생산성 향상과 비용 절감, 새로운 비즈니스 모델 창출을 가능하게 하고 있으며 모든 기업과 국가는 인공지능의 적극적 활용 방안을 모색하고 있다. 하지만 그 과정에서 지금까지 경험하지 못한 새로운 위험이 등장하고 있다. 역사적으로 모든 기술 혁신은 새로운 유형의 위험을 동반했지만 이를 분산하고 완충할 수 있는 위험 관리 체계를 마련함으로써 인류는 혁신을 지속할 수 있었다. 인공지능 시대에도 크게 다르지 않을 것이다.

인공지능 오류로 인한 리스크를 흡수하고 혁신이 멈추지 않도록 뒷받침하는 것, 그것이 인공지능 시대를 맞이한 보험산업의 새로운 사명이자 기회가 될 것이다.