[금사빠의 핀스토리] AI 한 줄 오류에 기업이 무너졌다…美 보험업계 새 딜레마

美 태양광업체, 구글 소송…구글 AI가 거짓정보로 매출 하락

보험사들, AI로 인한 손해 면책사항 만들어…韓은 '아직'

[사진=챗GPT]

AI가 만들어낸 문장 하나가 한 기업을 벼랑 끝으로 몰아넣었습니다. 그런데 이 사건 자체가 미국 보험업계를 더 크게 흔들고 있습니다. AI가 만든 오류로 발생한 명예훼손·영업 손실을 보험이 보장해야 하는지에 대한 논란이 본격적으로 떠오른 것입니다. 

구글 AI가 만든 허위정보, 기업을 위기로

26일 외신 등에 따르면 미네소타주의 태양광 업체 울프 리버 일렉트릭(Wolf River Electric)은 지난해 말 갑작스럽게 늘어난 계약 취소의 원인을 파악하던 중 충격적인 사실을 확인했습니다. 여러 고객이 "구글 검색 결과에 이 회사가 사기성 판매로 주 법무장관과 소송을 벌였고 합의까지 했다는 내용이 나온다"고 말한 것입니다.

그러나 이는 전혀 사실이 아니었습니다. 해당 업체는 그 어떤 소송이나 합의를 진행한 적이 없었습니다. 문제는 구글의 AI 검색요약 기능 'AI 오버뷰'였습니다. 회사명을 입력하면 법적 합의라는 문구가 자동완성으로 따라붙었고, 검색 상단에는 허위 정보가 사실처럼 노출됐습니다.

잘못된 AI 문장 하나가 기업의 명예를 훼손하고 매출을 떨어뜨리며, 고객 이탈까지 초래한 셈입니다. 울프 리버는 결국 구글을 상대로 명예훼손 소송을 제기했습니다. 이 사건은 기술 기업뿐 아니라 보험업계에서도 적지 않은 파장을 일으켰습니다. 만약 해당 업체가 기업배상책임보험(E&O)이나 전문직배상보험에 가입돼 있었다면, 'AI가 생성한 잘못된 정보로 발생한 손해'가 보상 대상이 되는지 판단해야 하기 때문입니다.

특히 미국은 기업보험의 보장 범위가 평판 훼손, 허위 정보 유포, 영업 손실까지 넓게 설정돼 있어 보험사가 부담할 위험이 훨씬 큽니다. 파이낸셜타임스(FT)에 따르면 WR버클리, AIG, 그레이트아메리칸 등 미국 대형 보험사들은 최근 'AI 시스템이 제공하거나 추천한 정보로 인한 명예훼손·영업 손실은 보상하지 않는다'는 면책조항을 신설한 보험상품을 규제당국에 승인해달라고 요청했습니다. AI 오류가 대규모 보험금 지급으로 이어질 수 있다는 우려가 빠르게 확산된 결과입니다.

[사진=챗GPT]

한국은 다를까?…보험 산업 구조적 차이 있어

그렇다면 이 같은 논란이 국내에서도 같은 형태로 재현될 가능성은 얼마나 될까요. 업계의 결론은 비교적 명확합니다. 한국에서는 미국처럼 'AI 면책 조항'을 따로 신고해 승인받는 방식이 아니라고 말합니다. 국내 보험시장은 표준약관 중심으로 운영되기 때문에 특정 위험을 보장하지 않으려면 기존 상품에 별도 면책을 삽입하는 방식이 아니라 새로운 상품을 다시 신고하는 방식으로 처리하면 됩니다. 보험업계 관계자는 "외신에서 보도된 '특정 위험 보장 제외 승인 요청'은 미국의 보험 규제 체계에서나 가능한 방식으로 보다"며 "국내 제도와는 구조적으로 다르다"고 설명했습니다.

다만 국내에서 AI 관련 위험이 작다고 볼 수는 없습니다. AI 챗봇 기반의 금융 상담, 의료 안내, 예약 서비스, 민원 응대 등이 이미 일상화된 한국에서는 AI 오류로 인해 금전적 손해나 계약 취소가 발생할 가능성이 충분히 존재합니다. 이런 환경에서는 분쟁 리스크가 미국보다 오히려 더 넓게 나타날 수 있다는 분석도 나옵니다.

문제의 핵심은 보험료 산정의 전제인 위험 계량화가 아직 불가능하다는 점입니다. AI가 만들어내는 오류의 빈도나 피해 규모, 책임 주체를 어떻게 정의할지에 대한 기준이 존재하지 않기 때문입니다. 새로운 상품은 매번 손해율을 책정하는 데 어려움을 겪는 게 순서이죠.

AI가 잘못 추천한 문구 하나가 기업을 소송으로 끌고 들어가는 시대입니다. 이런 상황에서 'AI 책임 공백'은 국내 보험업계가 결국 마주할 필연적 과제로 평가됩니다. 미국에서 시작된 논란은 단순한 해외 사례에 그치지 않고, 국내 보험시장에도 빠르게 답을 요구하는 질문을 던지고 있습니다.