틱톡, 어린이‧청소년 포함 '가짜 안전도구' 실험 논란...안전장치 놓고 잇단 의혹

[사진=AFP]

숏폼 플랫폼 틱톡이 미국 내 수천 명의 이용자를 대상으로 안전 기능이 실제로 작동하지 않는 이른바 ‘가짜 안전도구’ 실험을 진행한 것으로 알려지면서 논란이 커지고 있다. 실험 대상에는 어린이와 청소년도 포함된 것으로 전해졌다.
 
로이터 통신에 따르면 뉴욕주 검찰은 틱톡이 수천 명의 이용자를 대상으로 안전 기능의 ‘플라시보(위약) 실험’ 이른바 ‘고스트 실험’을 진행했다는 의혹을 제기했다.
 
문제가 된 기능은 ‘알고리즘 새로고침(Algo Refresh)’이다. 이용자가 원치 않거나 유해한 콘텐츠에서 벗어날 수 있도록 틱톡의 추천 알고리즘을 새롭게 시작하는 기능이다.

뉴욕주 검찰에 따르면 실험군으로 선정된 이용자들은 기능을 실제로 활성화했다고 생각했지만 추천 피드는 달라지지 않았다. 반면 정상적인 기능을 제공받은 이용자의 추천 피드는 변경됐다.
 

틱톡은 2023년 이 실험을 반복하면서 안전 기능을 제대로 적용받지 못한 이용자와 정상적으로 적용받은 이용자의 체류 시간과 광고 수익에 어떤 차이가 있는지 비교한 것으로 알려졌다. 안전 기능이 이용자의 플랫폼 이용 시간과 광고 수익에 미치는 영향을 확인하려 했다는 것이다.
 
틱톡 내부에서도 문제를 제기한 직원이 있었던 것으로 전해졌다. 틱톡 디지털 웰빙 담당 제품 매니저는 내부 대화에서 해당 기능이 알고리즘의 투명성과 이용자 통제권에 관한 것인데 플라시보 집단을 두는 것은 취지에 어긋난다는 우려를 표했다.
 
틱톡은 새로운 제품과 기능을 실제 환경에서 테스트하는 것은 사용자 경험을 검증하고 작동 방식을 파악하기 위한 일반적인 절차라고 반박했다. 이어 뉴욕주 검찰이 알고리즘 새로고침 기능의 성격을 왜곡하고 있다며 관련 주장을 부인했고, 청소년 안전을 우선하고 있다고 밝혔다.
 
앞서 블룸버그 통신은 틱톡이 미국 이용자의 약 10%를 대상으로 유해 콘텐츠 노출을 줄이는 안전장치를 적용하지 않는 별도 실험을 진행했다고 보도한 바 있다. 틱톡 내부 문서에 따르면 이 실험에는 약 1500만 명이 포함됐으며, 뉴욕의 16세 청소년도 실험 대상에 포함됐다. 해당 청소년의 계정에는 실험 기간 자살·자해 등과 관련된 콘텐츠가 집중적으로 추천됐고, 이후 스스로 목숨을 끊었다고 블룸버그는 전했다. 다만 해당 실험과 청소년 사망의 연관성은 확인되지 않았다.
 
한편, 틱톡은 2023년 3월 16일 ‘Refresh your For You feed’라는 이름으로 해당 기능을 발표했다. 당시 이용자가 추천 피드에 불만이 있거나 특정 콘텐츠가 반복적으로 노출되는 상황에서 ‘For You’ 피드를 새롭게 시작할 수 있도록 하는 기능으로 소개되었다.