[맛있는 테크스낵] 韓 이어 中·美도 AI 법제화 본격화…산업 진흥·안전 확보 초점

美, 캘리포니아 이어 뉴욕주에서도 AI 관련 법제화

대만, 산업 진흥·윤리·기본권 보호 방점 둔 AI 기본법 시행

中, AI 관련 특허 심사 기준 강화…차별 요소 없으면 안돼

미국, 중국, 대만 등 주요국이 산업 환경과 정책 목표에 맞춰 AI 거버넌스를 정비하고 있다. [사진 생성=구글 제미나이 노트북 LM]

인공지능(AI) 기술 경쟁이 본격화하면서 전 세계 각국이 법과 제도 정비에 속도를 내고 있다. 한국이 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'을 시행한 가운데 미국·대만·중국 등 주요국 역시 안전 기준과 산업 육성 전략을 담은 법안을 잇달아 도입하며 거버넌스 체계를 구축하는 분위기다. 

12일 소프트웨어정책연구소가 최근 발간한 'AI브리프'에 따르면 주요국은 자국 산업 환경과 정책 목표에 맞춰 AI 거버넌스를 정비하고 있다.

미국은 연방 차원의 규제가 아닌 뉴욕주가 우선 AI 관련 법안을 정비 중이다. 지난해 12월 19일 캐시 호컬 미국 뉴욕 주지사는 '책임 있는 인공지능 및 안전 교육법(RAISE Act)'에 서명했다.

핵심은 연 매출 5억 달러(약 7200억원) 이상 AI 개발 기업에게 안전 프로토콜 공개와 위험 관리 의무를 부과하는 것이다. 

이에 따라 뉴욕주는 대형 AI 기업이 안전 프로토콜을 작성·공개하고 이를 매년 검토하도록 했다. 안전성 테스트 결과를 기록·보존해야 하며, 비합리적 위험을 방지하기 위한 내부 통제 체계도 갖춰야 한다. 중대 사고 발생 시에는 72시간 내 주 정부에 보고하도록 했다.

다만 초기 논의됐던 '안전성 테스트 미통과 모델 출시 금지'와 같은 조항은 최종안에서 제외됐다. 관련 벌금도 기존 최대 1000만 달러(약 144억원)에서 100만 달러(약 14억원) 수준으로 낮아졌다.

대만은 산업 진흥과 함께 윤리와 기본권 보호에 방점을 둔 포괄적인 AI 기본법을 지난달 14일부터 시행했다. 

대만의 AI 기본법 핵심은 인간 중심의 AI 연구 개발과 안전한 활용 환경을 조성하는데 있다. △지속 가능한 발전 △인간의 자율성 △개인정보 보호 △사이버 보안 △투명성 △공정성(차별 금지) △책임성 등을 법적 원칙으로 확립했다. 

AI 기본법을 통한 사회적 보호도 명시했다. AI 생성물에 대한 표시 제도 도입을 계획하는 한편 디지털 격차 해소를 위한 교육과 훈련 제공도 명문화했다. 

중국의 경우 '특허심사 지침 개정(명령 제84호)'를 발표하고 올해부터 AI 관련한 특허 심사 기준을 강화했다. 기술 수준이 높더라도 불법 데이터를 활용하거나 차별적 요소를 포함한 알고리즘은 특허로 인정하지 않도록 명확히 했다. 기존 알고리즘을 단순 재구성하거나 적용 분야만 변경한 경우 역시 발명으로 보지 않겠다고 밝혔다. 

한국 역시 지난달 22일부터 AI기본법을 시행하며 AI 거버넌스 재편에 합류했다. 한국의 AI 기본법은 산업 진흥과 안정성 확보의 균형을 맞추는데 초점을 뒀다. 

특히 국민의 생명이나 신체, 권리에 중대한 영향을 미칠 수 있는 AI를 '고영향 AI'로 적용하고 체계를 마련했다. 고영향 AI 사업자는 서비스 제공 전 신뢰성 확보 조치 내용을 이용자에게 알려야 한다. 

딥페이크 등 오남용을 막기 위해 생성형AI로 만든 콘텐츠에는 워터마크 표시도 의무화했다. AI가 결과를 도출한 원리에 대해 설명할 수 있어야 한다는 '설명 가능성' 요건도 포함했다. 

AI 기본법의 실효성을 확보하기 위한 제재 조항도 포함됐다. AI 사용 사실을 고지하지 않거나 해외 기업이 국내 대리인을 지정하지 않을 경우 최대 3000만원의 과태료를 부과하도록 했다. 다만 정부는 기업 혼란을 고려해 사실조사권 행사와 과태료 부과는 시행 후 1년간 유예하기로 했다.

한편 보고서는 AI 거버넌스 정비와 함께 기술 확산에 따른 사회적 책임과 노동시장 대응 전략도 병행해야 한다고 강조했다. 보고서는 국제통화기금(IMF)를 인용하며 "비경쟁 조항 완화와 인재 중심 인수합병(M&A) 점검 등을 통해 기술 확산을 촉진하고, 재숙련 지원과 사회안전망 확충으로 노동시장 충격에 대비해야 한다"고 제언했다.