[전문가 기고] AI 시대 개인정보 보호, 사후 대응을 넘어 선제적 예방으로

AI 활용 확산이 초래하는 개인정보 유출 위협을 심층 진단하고, 국민과 기업이 선제적으로 이행해야 할 사전 예방 전략

이상중 KISA 원장[사진=KISA]

인공지능(AI)이 우리 삶에 들어온 지 얼마 지나지 않았지만 이미 많은 이들이 사적인 이야기를 자연스럽게 AI에 털어놓고 있다. 자신의 이름과 생년월일을 입력하여 사주를 묻고, 몸 상태와 복용 중인 약을 넣어 건강 상담을 받는다. 회사에서는 회의 녹취록을 넣어 요약을 맡기고, 아직 공개되지 않은 사업 전략과 내부 문서, 고객 정보까지 AI에 입력하며 업무 효율을 높인다. 더 많은 정보를 제공할수록 AI 서비스는 더욱 정교해지고 편리해지므로 거리낌 없이 정보를 제공한다. 하지만 문제는 AI에 의해 개인정보가 광범위하게 집적되고 처리될수록 개인정보와 프라이버시 침해 위협 역시 비례한다는 사실이다.

이러한 우려를 더욱 가중시키는 것은 지난 4월 공개된 고위험 사이버보안 특화 AI 모델인 '미토스'의 등장이다. 불과 얼마 전까지만 해도 시스템을 해킹하기 위해서는 해커가 직접 시간과 노력을 쏟아야 했던 반면 이제 미토스와 같은 AI를 활용해 손쉽게 자동으로 취약점을 탐지할 뿐만 아니라 공격 경로까지 구성하는 수준에 이르렀다. 지치지도 쉬지도 않는 '무한 자동화된 AI 공격자'의 등장이 눈앞에 현실이 된 것이다.

엎질러진 물은 다시 담을 수 없듯이 한번 유출된 개인정보를 회수하기 쉽지 않을 뿐만 아니라 유출된 개인정보가 금융사기나 명의도용과 같은 2차 피해로 이어질 수 있기 때문에 더 늦기 전에 개인정보 보호 체계의 체질 개선이 시급하다.

정부 역시 그간 고착화된 사후약방문(死後藥方文)식 규제의 패러다임을 전환하기 위해 '예방 중심 개인정보 관리체계 전환 계획'을 발표했다. 그간 획일적인 기준으로 관리되어 오던 개인정보 관리체계를 실제 위험 수준에 맞춰 관리하도록 전환한다. 대규모로 개인정보를 처리하거나 사고 파급력이 큰 고위험 분야에 대해서는 사전 실태점검을 강화하고, 기존에 기업 자율에 맡겼던 개인정보 보호 인증제도(ISMS-P)를 의무화한다. 개인정보 보호책임자(CPO) 지정 신고제도를 도입할 예정이다. 아울러 개인정보보호법 개정을 통해 고의·중과실에 따른 대규모 유출 시 매출액의 최대 10%로 강화한 징벌적 과징금을 신설하되 선제적 투자를 진행한 기업에는 감경 혜택 등 정책적 인센티브를 부여해 자발적인 보안 역량 강화를 유도할 계획이다.

이러한 개인정보 보호 체계 변화에 시너지가 나기 위해서는 기업 역시 이러한 변화에 동참해야 한다.

첫째, AI 시대에도 최소 수집·목적 제한·안전성 확보와 같은 개인정보 보호 기본 수칙을 충실히 이행하는 것이 여전히 가장 중요한 보안 전략이다. 특히 이러한 원칙을 서비스와 시스템의 설계 단계부터 내재화하는 개인정보 보호 중심 설계(PbD)가 중요해지고 있다. 이를 위해 기업은 개인정보 취급자 인증 체계를 강화하고, 비정상 행위를 사전에 탐지·대응할 수 있는 절차를 확보해야 한다.

둘째, 개인정보가 저장·처리되는 시스템과 데이터를 빠짐없이 파악해야 한다. 기업은 어떤 시스템이 개인정보를 다루고 있는지, 해당 정보가 어떤 클라우드와 수탁사를 거쳐 처리되는지, 외부 공격에 노출될 수 있는 지점은 어디인지 지속적으로 점검해야 한다. 특히 개인정보 처리 시스템은 공격자가 가장 먼저 노리는 핵심 자산인 만큼 보안 취약점이 발견되는 즉시 보완 조치를 적용하고 그 현황을 점검해야 한다.

셋째, 제로트러스트 원칙을 개인정보 보호 체계에 적용해야 한다. 제로트러스트는 '아무도 믿지 말고 매번 확인한다'라는 보안 원칙이다. 한 번의 침투만으로도 내부 정보 전체가 노출될 수 있기에 매번 신원과 권한을 다시 확인하는 것이 필수적이다. 이를 바탕으로 평소와 다른 움직임이 감지되면 즉시 차단할 수 있는 지능형 감시 체계를 갖춰야 한다.

AI 혁신은 더 이상 선택이 아니다. 그러나 안전이 뒷받침되지 않는 혁신은 국민의 신뢰를 얻기 어렵다. 기업이 개인정보 보호를 보안 전략의 중심에 두고, 정부와 전문기관이 이를 제도적·기술적으로 뒷받침할 때 AI는 국민이 안심하고 활용할 수 있는 기술로 자리 잡을 수 있다. 국민 한 사람 한 사람의 정보가 안전하게 지켜지는 일상, 기업이 든든한 안전망 위에서 마음껏 AI 혁신에 도전할 수 있는 환경. 그것이 우리가 만들어 가야 할 AI 시대의 모습이다.