과기정통부, AI기본법 시행령 제정안 입법 예고

생성형AI 고지·고영향 기준 구체화

[사진=과학기술정보통신부]

과기정통부가 내년 1월 시행 예정인 ‘AI기본법’의 시행령 제정안을 입법을 예고하며 생성형 AI 고지 의무와 고영향 인공지능(AI) 판단 기준, 인공지능 영향평가 제도를 구체화하겠다고 밝혔다. 

과기정통부는 12일 AI기본법의 입법취지를 반영하기 위해 산업계, 시민단체, 전문가, 관계부처 등의 의견을 폭넓게 수렴해 제정안을 마련했다. 앞서 지난 9월 국가AI전략위원회에서 시행령 초안을 공개하고, 고시와 가이드라인을 포함한 하위법령 전반에 대해 대국민 의견을 들었다. 이번 입법예고는 내달 22일까지 40일간 진행된다.

이번 시행령 제정안의 핵심은 △AI산업 육성을 위한 지원 근거 구체화 △AI 정책 추진 기관 지정 및 운영 근거 마련 △AI 안전·신뢰 확보 제도의 세부화 등 세 가지다.

먼저 AI산업 진흥 부문에서는 법률에 규정된 AI 연구개발(R&D), 학습용 데이터 구축, AI 기술 도입·활용, 중소기업·창업 지원, 산업 간 융합, 전문인력 확보, 국제협력 등 각종 지원 사업의 대상과 기준을 명확히 했다. 또 AI 기업과 연구기관이 집중된 거점을 중심으로 ‘AI집적단지’를 지정할 수 있도록 그 기준과 절차를 시행령에 명시했다.

정책 추진 체계의 효율성을 위해 AI 지원기관의 법적 근거도 마련됐다. 인공지능안전연구소는 AI 안전성 검증 및 리스크 대응을 전담하며, 인공지능정책센터는 AI 정책 연구 및 국제규범 대응을 담당한다. 또한 AI집적단지 전담기구는 입주기업 지원, 인프라 관리, 투자 연계 등 종합적 업무를 수행하도록 했다.

안전·신뢰 확보 제도도 구체적으로 규정됐다. 생성형AI나 고영향AI를 활용한 제품이나 서비스를 제공할 경우, 사업자는 이용자에게 사전에 인공지능이 개입된 사실을 고지해야 한다. 특히 실제 인물이나 영상 등과 구분하기 어려운 결과물에는 ‘AI 생성’임을 명확히 표시하도록 했다. 표시 방식은 이용자의 연령과 인지 능력 등을 고려해 탄력적으로 적용할 수 있다.

AI 안전성 확보 의무의 기준도 구체화됐다. 학습에 사용된 누적 연산량이 10의 26승(100옥타릴리언) FLOPs 이상인 시스템을 ‘고성능 AI’로 분류해 안전성 확보 의무를 적용한다. 이는 미국, 유럽 등 주요국의 규범 논의 수준을 참고한 수치로, 대규모 언어모델(LLM) 등 초거대 AI를 관리 대상으로 명시한 것이다.

고영향AI의 경우, 서비스 영역·기본권 침해 위험·중대성·빈도 등을 종합적으로 고려해 판단하도록 했다. 과기정통부가 수행하는 고영향AI 확인 절차는 기본 30일 내에 완료하되, 불가피할 경우 1회에 한해 30일 추가 연장이 가능하다. 연장 시에는 사유와 기간을 명시해 기업에 문서로 통보하도록 해 행정 부담을 최소화했다.

AI가 사람에게 미치는 영향을 자율적으로 평가하는 ‘인공지능 영향평가’ 제도도 시행령에 포함됐다. 사업자는 자사 AI 제품·서비스가 어떤 기본권에 어떤 영향을 미치는지, 이를 완화하기 위한 대책은 무엇인지 등을 평가서에 구체적으로 담아야 한다. 과기정통부는 이를 기반으로 향후 가이드라인을 마련하고, 기업이 자율적으로 제도를 운용할 수 있도록 지원할 예정이다.

과기정통부는 제도의 조기 안착을 위해 최소 1년 이상의 과태료 계도기간을 운영할 계획이다. 이 기간 동안 법 적용과 관련한 기업의 어려움을 해소하기 위해 ‘AI기본법 통합안내지원센터(가칭)’를 설치하고, 기업의 문의 사항에 대한 상세한 안내와 컨설팅을 제공한다.

또 AI검·인증, 영향평가 수행 비용에 대한 정부 예산 지원을 병행하고, 투명성 확보 의무나 고영향AI 사업자 책무에 대한 전문가 컨설팅도 제공할 방침이다.

배경훈 과기정통부 장관은 “AI기본법 시행령 제정안은 대한민국이 AI G3 강국으로 도약하기 위한 제도적 기반이 될 것”이라며 “입법예고 기간 동안 현장의 다양한 의견을 적극 반영해 산업 진흥과 신뢰 확보의 균형을 이룬 시행령을 완성하겠다”고 말했다.

입법예고된 시행령 제정안은 과기정통부 홈페이지 ‘입법/행정예고’ 게시판에서 확인할 수 있으며, 의견은 내달 22일까지 이메일이나 우편을 통해 제출할 수 있다.