'AI 기본법' 내일부터 시행…"자율주행 등 극소수만 고영향 AI"

AI 기본법 내일 시행…정부 '사람 개입 땐 규제 제외' 명문화
의료·금융 등 자동 핵심업무만 규제 대상, 위반 시 최대 3000만원 과태료·1년간 규제 유예
'규제 최소화 원칙' 유지

인공지능(AI) 기본법 시행을 하루 앞두고 정부가 고영향 AI 적용 기준과 투명성 의무, 제재 및 집행 방침을 공식 확정했다. 의료·금융·에너지 등 위험 분야에서 AI를 활용하더라도 핵심 위험 업무에 자동으로 사용되는 경우에만 고영향 AI로 규제하며, AI 생성물 표시 의무는 서비스를 제공하는 사업자에게만 부과한다. 위반 시에도 형벌 없이 최대 3000만원의 과태료만 부과하고, 최소 1년간 규제를 유예하기로 했다.

21일 과학기술정보통신부에 따르면 22일부터 시행되는 AI 기본법은 안전·신뢰 기반 조성을 위해 고영향 AI, 안전성 의무, 투명성 의무를 핵심 축으로 규정했다. 특히 고영향 AI로 분류되기 위해서는 법에서 정한 10대 위험 영역에서 활용되고, 사람의 기본권에 중대한 영향을 미치거나 위험한 업무에 활용되며, 최종 의사결정 과정에 사람이 개입하지 않는 '자동 시스템'이어야 한다. 정부는 이 세 가지 요건을 빠짐없이 갖춘 경우에만 선별적으로 규제하겠다는 방침이다.

과기정통부는 실제 규제 적용 대상 기업은 국내외를 포함해 약 1800~2000개 수준에 그칠 것으로 보고 있다. 규제 여부 판단은 서비스 제공 주체, 활용 분야, 업무 성격, 사람 개입 여부 등을 종합적으로 고려해 결정된다.

위험 영역으로는 에너지, 원자력, 교통, 의료, 금융 등이 포함됐다. 다만 이들 분야에서 AI가 활용된다고 해서 모두 고영향 AI로 분류되지는 않는다. 단순 보조·추천·관리 목적의 AI는 규제 대상에서 제외되며, 전력 공급 제어, 대출 승인, 신용 평가 등 사고나 권리 침해로 직결될 수 있는 핵심 업무에 자동으로 사용되는 경우에만 고영향 AI로 검토 대상이 된다.

관련기사

사람의 개입 여부도 핵심 판단 기준으로 제시됐다. AI가 결과를 산출하더라도 사람이 이를 검토하고 최종 결정을 내리는 구조라면 고영향 AI로 보지 않는다. 채용 추천, 의료 영상 판독, 진단 보조 시스템 등도 사람이 최종 판단을 내리는 경우에는 규제 대상에서 제외된다. 반대로 사람이 개입하지 않고 자동으로 작동하는 시스템만 고영향 AI로 분류된다. 정부는 대표 사례로 자율주행 레벨4 이상을 제시했다.

과기정통부는 현재 기준을 충족하는 사례는 국내는 물론 해외에서도 매우 제한적이라고 밝혔다. 사실상 자율주행 고도화 단계 외에는 적용 대상이 거의 없다는 설명이다. 심지섭 과기정통부 인공지능정책반 사무관은 “고영향 AI는 사회에 중대한 영향을 미칠 수 있는 극히 제한된 사례만을 규제하기 위한 제도”라며 “사람의 통제가 유지되는 대부분의 AI 활용은 규제 대상이 아니다”고 말했다.

안전성 의무는 초고성능 AI 모델만을 대상으로 한다. 학습에 사용된 누적 연산량이 10의 26승 FLOPs를 초과하는 모델 가운데 사회 전반에 중대한 피해를 초래할 가능성이 있는 경우에만 안전성 조사 대상이 된다. 단순히 연산량이 많다는 이유만으로는 적용되지 않으며, 실제 위험도와 활용 범위를 함께 고려해 대상 여부를 판단한다는 방침이다.

투명성 의무는 AI 생성물 표시 의무로 시행된다. 표시 의무는 생성형 AI 서비스를 제공하는 사업자에게만 부과되며, AI를 활용해 콘텐츠를 제작하는 유튜버, 크리에이터, 언론사, 일반 이용자는 규제 대상이 아니다. 표시 방식은 가시적 워터마크를 일률적으로 강제하지 않고, 다운로드 시 팝업 안내, UI 메시지, 음성 안내 등 이용자가 한 차례 이상 AI 생성물임을 인지할 수 있도록 고지하는 방식으로 운영된다.

제재 수위는 낮게 설정됐다. AI 기본법에는 형벌 조항이 없으며, 위반 시에도 최대 3000만원의 과태료만 부과된다. 과태료는 즉시 부과하지 않고 먼저 시정 명령을 내린 뒤 이를 이행하지 않은 경우에만 부과한다. 법 시행 이후 최소 1년 동안은 조사나 과태료 부과를 하지 않는 규제 유예 기간도 운영한다.

정부는 ‘AI 기본법 지원 데스크’를 설치해 고영향 AI 해당 여부와 의무 이행 방법에 대한 상담과 컨설팅을 제공할 계획이다. 위반 사항이 인지되더라도 곧바로 조사에 착수하기보다는 설명 자료 제출과 사전 상담을 먼저 진행하고, 시정과 보완을 우선한다는 방침이다.