[전문가 기고] 사람이 하면 검열, AI가 하면 필터링?

김하영 법무법인 율촌 변호사 [사진=법무법인 율촌]

영화 산업의 위기 속에서도 '위키드'는 흥행에 성공했다. 동화책으로 십수년 전에 이미 스포를 당하긴 했지만, 모두가 두려워하던 위대한 마법사 오즈의 정체는 영화에서도 초라하기 짝이 없었다.

거대한 기계장치 뒤에 숨어 있던 것은 위대한 마법사가 아닌 초라한 사기꾼. 그렇지만 에메랄드 시티의 사람들은 단지 '위대한 마법사가 내린 결정'이기 때문에 말하는 동물들을 억압하는 정책에 별다른 의문을 품지 않았다. 진실을 처음 알게 된 순간의 엘파바는 얼마나 황당했을까.

그런데 오는 7월 1일 시행되는 제도를 들여다보고 있으면 우리도 혹시 회오리바람에 휩쓸려 먼치킨 나라에 떨어진 건 아닐까 싶다. 개정 전기통신사업법 제22조의5 제2항과 같은 법 시행령 제30조의6 등은 일정 규모 이상의 플랫폼에 이용자가 이미지를 올리려고 할 경우 인공지능(AI)이 먼저 불법촬영물 여부를 판별해 게재를 차단하도록 의무화한다.

2021년부터 동영상에 적용되던 의무가 이제는 이미지, 캡처, 사진 등으로 확대된 것이다. 피해자 보호라는 제도의 취지는 무척 공감한다. 그러나 똑같은 일을 AI가 아닌 사람이 했다면 우리는 그것을 무엇이라고 부를까. 바로 '사전 검열'이다.

대한민국 헌법은 사전 검열을 명문으로 금지한다. 헌법재판소 역시 행정권이 주체가 되어 표현물이 공개되기 전에 그 내용을 심사·선별해 발표를 사전에 억제하는 것을 사전 검열로 위헌이라 판단해 왔다. 공무원이 온라인 게시물을 일일이 들여다보며 솎아 낸다면 위헌 시비를 피하기 어렵다는 뜻이다.

그런데 몇 달 전 헌법재판소는 위 제도는 이미 '등록'된 불법촬영물의 '특징값'을 기계적으로 대조하여 게재를 제한할 뿐 사람이 그 내용을 직접 들여다보는 것은 아니므로 사전검열이 아니라고 했다. 그렇지만 AI의 판단 기준은 결국 사람이 미리 정한다. 마법사 오즈의 위엄 서린 목소리가 실은 기계장치 뒤 평범한 사람의 입에서 나왔던 것처럼 말이다. 대조 과정을 AI가 하니 검열이 아니라면 기계장치를 보고 위대한 마법사가 있다고 의심 없이 믿는 에메랄드 시티 사람들과 다를 게 있을까.

사람이 하면 안 될 '검열' 행위를 AI가 대신하는 '필터링'으로 바꾸면 괜찮다는 것인가. 발표 이전에 자동으로 내용을 심사해 차단한다는 구조는 조금도 다르지 않은데 말이다.

나아가 애초에 이러한 옳고 그름의 판단을 AI에게 맡겨도 되는가. 특징값을 대조하는 것은 선악 판단과 다르지 않냐고 되물을 수도 있겠다. 그러나 "판단"이란 원래 그런 것이다. 주어진 기준으로 눈앞의 대상이 그 기준에 부합하는지를 가리는 일. 사람이 도덕률에 따라 옳고 그름을 따지는 것과 AI가 "나쁜 촬영물"의 기준에 따라 필터링 대상을 따지는 것은 그 구조가 다르지 않다.

기준을 사람이 정해 주었다 한들 개별 사안이 그 기준에 걸리는지에 대한 마지막 판단은 결국 AI의 몫이 되었으므로 AI는 이미 선악의 판단을 일정 부분 나누어 맡게 된 셈이다. 그리고 편리함의 유혹은 늘 한 방향으로만 흐른다. 오늘 AI에 넘긴 한 뼘이 내일은 한 자가 되지 않으리란 법도 없다.

백 번 양보해 그 판단을 기계에게 맡겨도 좋다고 치자. 우리는 오랫동안 판단에는 반드시 책임이 뒤따르도록 제도를 설계해 왔다. 사람이 판단하기에 그 결정에 이의를 제기할 수 있고, 잘못된 결정에 책임을 물을 수도 있다.

그런데 AI가 판단한다면 이의는 무엇에 제기하며 책임은 누구에게 물을 수 있을까. 실제로 야구 경기 장면이 불법촬영물로 분류된 오탐 사례가 나왔고, 게임의 명장면이 불법촬영물로 판단되어 삭제되었다는 제보도 있었다. 혹자는 무엇이 왜 걸러지는지 아무도 알 수 없는 '블랙박스'라고 평하기도 한다. 이렇게 '잘못되었지만 기계적으로 내려진 판단'에 대한 책임을 누구에게 지울 수 있는가? 책임질 수 없는 존재에게 판단을 맡긴다는 것이 무슨 의미인지 충분히 헤아리면서 우리가 이 제도를 맞이하고 있는지 생각해 볼 지점이다.

물론 마법사 오즈처럼 AI가 사기꾼이라는 것은 아니고, 21세기에 철 지난 러다이트 운동을 제안하려는 것은 더욱 아니다. 엘파바와 같은 도망자의 삶은 필자의 적성과 맞지 않다. AI가 사람이 감당하기 어려운 방대한 데이터를 빠르게 분류하는 유능한 도구라는 것도 인정한다.

그렇지만, 동시에 그럼에도 AI를 도구로 쓰는 것과 판단자로 세우는 것은 전혀 다른 문제이고, 더구나 사람이 하면 불법인 판단자의 역할을 (사람처럼 만들려고 하는) AI가 하면 괜찮다는 논리는 아무래도 어딘가 이상하다. 사람이 하면 검열, AI가 하면 필터링. 이름이 달라지면 본질도 달라지는가. 그리고 그렇게 바뀐 이름 아래에서 우리는 AI에게 그토록 손쉽게 옳고 그름을 판단해 달라고 의존해도 되는 것일까.