[김성현의 AI지표] 美·EU '진흥'서 '규제'로 선회…韓 AI기본법은 '사각지대'

백악관 사전검증 체계 완성·EU AI법 제50조 시행…韓 AI기본법은 국가안보 예외로 사각지대

오픈AI·앤트로픽 모델 30일 사전검토…EU는 매출 3% 과징금, 韓은 과태료 3000만원 그쳐

[사진=연합뉴스]

인공지능(AI)이 문제 해결 과정에서 스스로 해킹을 자행하며 충격을 주고 있는 가운데 미국과 유럽연합(EU)이 잇달아 인공지능(AI) 모델에 대한 사전 검증과 처벌 체계를 가동하며 '규제' 국면으로 전환했다. 반면 진흥에 초점을 둔 한국 AI기본법은 국가안보 명목의 광범위한 적용 제외와 미비한 처벌 규정으로 사각지대가 크다는 지적이 나온다.
 
4일 IT업계에 따르면 백악관은 지난 3일(현지시간) 프론티어 AI 모델에 대한 사전검증 체계를 완성했다고 밝혔다. 다만 검증 기준과 대상 모델의 구체적 내용은 공개하지 않았다. 백악관은 이날 오픈AI, 앤트로픽, 구글, 메타 등과 비공개 회의를 열고 후속 절차를 논의할 예정이다.
 
이 체계는 오픈AI, 앤트로픽, 구글 등 프론티어 AI 기업이 최신 모델을 일반에 공개하기 전 최대 30일간 연방정부에 자발적으로 제출하도록 하는 절차다. 정부는 이 기간 사이버공격, 생물·화학무기 관련 정보 악용 가능성, 오작동, 편향성 등 국가안보와 직결되는 위험 영역을 집중 점검한다.
 

검증은 상무부 산하 AI표준혁신센터(CAISI)와 국가안보국(NSA)이 맡을 것으로 알려졌다. 형식은 '자율 참여'지만, 실제로는 앤트로픽의 '클로드 미토스' 배포 제한 사례처럼 정부가 사실상 출시를 좌우한 전례가 있어 강제력 논란이 이어지고 있다. 참여 기업에는 정부의 핵심 인프라·사이버보안 지원 프로그램 등 혜택이 주어질 수 있다는 전망도 나온다.
 
이번 체계는 트럼프 대통령이 지난 6월 2일 서명한 행정명령에 따른 것이다. 앤트로픽의 사이버보안 특화 모델 '클로드 미토스'가 소프트웨어 취약점을 탐지·악용할 수 있는 수준의 능력을 갖췄다는 평가가 나오면서 백악관이 관리 체계 마련에 나섰다. 트럼프 대통령이 집권 초 AI 개발에 대한 무제한적 자유를 공약했던 것과 비교하면 1년여 만에 기조가 선회한 셈이다.
 
EU에서도 지난 2일(현지시간)부터 AI법 제50조 투명성 의무가 본격 시행됐다. AI 챗봇은 대화 시작 시 AI임을 고지해야 하고, 딥페이크 등 AI 생성·조작 콘텐츠에는 라벨링이 의무화됐다. 감정인식·생체분류 시스템을 이용할 경우에도 이용자에게 사전 고지해야 한다. 위반 시 매출의 3% 또는 약 1500만유로 상당의 과징금이 부과된다.
 
범용 AI(GPAI) 모델의 기술문서화, 학습데이터 요약 공개 등 의무는 지난해 8월부터 이미 적용돼왔으나, 위반 시 실제 제재를 가할 수 있는 EU AI 오피스의 집행권은 이번에 처음 가동됐다. 시스템적 위험을 가진 GPAI 모델 제공자는 적대적 테스트와 사이버보안 사고 보고 의무도 함께 진다. 안면인식 등 고위험 AI에 대한 규정은 2027년 12월에서 2028년 8월까지 순차 시행된다.
 
한국은 지난달 21일 AI기본법이 시행됐지만 국가안보 관련 사각지대가 크다는 평가가 나온다. AI기본법 시행령은 국가정보원장, 국방부장관, 경찰청장이 지정하는 업무에 한해 법 적용을 제외하는 방식을 택했다. 주요 시민단체들은 지정 범위가 개별 지정 방식이어서, 공공장소 안면인식이나 직장·학교 감정인식처럼 기본권 침해 우려가 큰 AI가 법 밖에 놓일 수 있다고 우려한다.
 
고영향 AI 판단 기준도 11개 분야 열거에 그쳐, 새로운 위험 영역을 추가 지정하는 시행령이 아직 마련되지 않은 상태다. 의무 위반 시 과태료도 최대 3000만원 수준이며, AI로 인해 권리를 침해받은 이용자에 대한 구제 조항은 법에 담기지 않았다.
 
과학기술정보통신부는 지난해 AI기본법 시행령을 준비하면서 산업 진흥에 방점을 둔 법률인 만큼 규제를 최소화한다는 입장을 밝힌 바 있다. 다만 업계에서는 미국과 EU가 AI 위험 대응 체계를 속도감 있게 갖추는 것과 달리, 한국은 법 시행 자체는 앞섰지만 위험 대응 수준은 뒤처져 있다는 지적이 나온다.