"얼굴인식 걷어내는 메타, 인종차별 피해 인정한 것"

MS, 구글 등 빅테크의 AI 윤리 문제 대응 대열 합류

[사진=게티이미지뱅크]

세계 최대 사회관계망서비스(SNS)인 페이스북의 인공지능(AI) 얼굴인식 기술이 조만간 제거된다. 이는 글로벌 빅테크 기업들에게 간과됐던 AI의 윤리적 측면을 뒤늦게 의식한 조치로 해석된다.

최근 유색인종(흑인) 인권과 다양성에 초점을 맞춘 영어 매체 '컬처뱅크스'의 코리 헤일 대표는 미국의 유력 경제매체인 포브스 게재된 기고를 통해 메타(전 '페이스북')가 사용자들의 사진·영상에 적용해 온 AI 얼굴인식 시스템 사용을 전면 중지할 계획이고, 이는 인종 등을 포함한 여러 그룹의 권리를 침해할 수 있다는 점 등을 인정한 것이라고 평가했다.

앞서 메타는 지난달 2일 10억명 이상 사용자들의 얼굴을 스캔한 데이터를 삭제하겠다고 자사 웹사이트를 통해 밝혔다. 이와 함께 자동 얼굴인식 기능 역시 가동을 중단하기로 했다. 헤일 대표는 메타가 "얼굴인식 기술을 씀으로써 유색인종을 간접차별하면서 이미 불평등한 상황에 처한 집단의 기본권을 침해하고 있다"며 "이런 내재적인 피해를 페이스북이 인정하는 것으로 보인다"고 평가했다.

헤일 대표는 "페이스북 얼굴인식 기반 서비스는 향후 몇 주 내에 제거될 것"이라며 "다만 이 회사는 본인인증 또는 사기방지용 기술로 여전히 얼굴인식을 사용할 예정"이라고 지적했다. 그에 따르면 페이스북은 지난 2012년 이스라엘의 스타트업인 '페이스닷컴'을 인수하면서 얼굴인식 기술을 본격적으로 활용하기 시작했다.

현재 AI를 활용한 얼굴인식 기술은 전세계 모든 사람들을 대상으로 100% 정확하게 구분하지 못한다. 특히 유색인종과 여성 등에 대한 인식 정확도가 떨어진다는 연구 결과도 있다.

실제로 매사추세츠공과대(MIT) 조사에 따르면 일부 얼굴인식 시스템의 경우 밝은 피부색(light-skin)을 가진 인종의 남성 인식 시 0.8%의 오류율을 보였다. 이와는 대조적으로 어두운 피부색(dark-skin)을 가진 여성을 대상으로는 인식 오류율이 34.7%나 됐다.

메타는 지난 2020년 미국 일리노이주의 개인 생체정보보호법을 위반한 혐의로 집단소송을 당했다. 당시 법원은 회사가 총 6억5000만 달러(약 7천690억원)에 달하는 합의금을 지급해야 한다고 판결했다. 일리노이주는 기업이 안면·지문·홍채 등 개인 생체정보를 수집할 시 반드시 소비자에게 사용 목적, 보관 기간 등을 공지하고 사전 동의를 구하도록 하고 있다.

메타는 사용자 동의를 구하지 않은 상태에서 얼굴 자동인식 기능을 활용했다. 이에 지난 2015년 일리노이 주민 3명은 시카고 연방법원에 소장을 제출하면서 소송이 시작됐다.

작년부터 구글은 안면인식 기술 규제의 필요성을 주장하고 마이크로소프트(MS)는 미국 경찰에 안면인식 기술을 공급하지 않기로 하는 등, 스스로 AI 기술 활용에 신중한 입장을 취하고 있다.

헤일 대표는 "MS, 구글 등을 포함한 다른 테크 기업들은 AI가 (권리 침해를 비롯한 윤리 문제로) 투자자들과 기업 브랜드 등에 해를 끼칠 수 있다고 경고했다"고 언급했다.

그러면서 "AI는 여전히 논쟁의 여지가 가장 큰 기술 중 하나"라며 "최근 기업들이 플랫폼 전반에 AI를 통합함에 따라 점점 더 일반화되는 추세"라고 덧붙였다.