[AI업계 10월 동향] ① 美 정부 기관 45%가 AI 도입... "국민 삶 영향력 큰 분야 도입 신중해야"

스탠퍼드·뉴욕대 조사결과... 내부자 거래나 보험 사기 적발에 널리 활용

[사진=게티이미지뱅크 제공]

미국 정부 기관의 45%가 인공지능(AI)을 실제 업무에 도입해 활용하고 있다는 조사 결과가 나왔다. 이에 한국 정부가 성공적인 디지털 뉴딜을 위해 미국 정부의 AI 도입 사례에서 나타나는 문제점을 분석해 AI 도입에 따른 부작용을 최소화해야 한다는 주장이 함께 나오고 있다.

18일 소프트웨어정책연구소(SPRi)에 따르면, 미국 스탠퍼드 대학교 AI 연구소가 미국 연방정부의 AI 도입 실태를 공개했다

먼저 스탠퍼드대·뉴욕대 법학자와 컴퓨터 과학자로 구성된 연구진은 미국 142개 연방 기관의 AI 개발과 도입 실태를 점검했다.

보고서에 따르면, 미국 증권위원회, 법무부, 항공우주국, 식약처, 특허청(USPTO) 등 절반에 가까운 미국 연방 기관이 AI를 도입해 활용하고 있으나, 투명성·공정성·기술중립성 면에서 개선할 부분이 있었다.

구체적으로 전체 조사 기관의 45%가 AI 도구를 업무에 활용하고 있었다. 예를 들어 증권위원회는 AI를 내부자 거래 위험 판별에 활용했고, 메디케이드 센터는 의료 보험 사기 식별에 활용하고 있었다. 이밖에 USPTO는 특허 심사 지원에, 소비자금융보호원은 시민 민원 분석 등에 AI를 적용했다.

다만 전체 조사 기관의 12% 정도만이 AI를 높은 수준으로 활용하고 있었으며, 대부분의 기관은 상대적으로 높은 AI 기술 수용도에도 불구하고, 도입한 기술의 수준 자체는 낮은 것으로 조사됐다.

대다수의 정부 기관은 민간 AI 업체와 계약을 통해 AI 역량을 확보했으며, AI를 도입한 기관의 53%는 외부 AI 기술 도입과 함께 내부 기술 인력에 의해 자체 개발된 제품을 사용 중인 것으로 나타났다.

미국 정부는 "정부 기관이 AI 알고리즘에 의한 의사 결정을 내릴 경우 이에 대해 설명을 할 책무가 있으며, AI는 투명성·책임성·비차별성이라는 법 규범에 맞춰 설계해야 한다"고 관련 규정을 만들었다.

이어 미국 정부는 정부의 AI 시스템이 특정 민간 기업의 클라우드 컴퓨팅 자원과 AI 기술 및 알고리즘에 의존할 경우 시스템 공정성과 형평성에 문제가 생기고 기술 종속의 우려가 있다고 지적했다.

SPRi는 "미국 연방 정부의 사례에서 보듯이 국내 정부 기관도 시급히 AI 역량을 확보해야 한다"며 "국민의 삶에 영향력이 큰 분야에 AI 기술을 도입하는 것은 신중할 필요가 있다"고 밝혔다.

정부 기관이 성공적으로 AI 기술을 도입하려면 먼저 최신 AI 기술을 확보하면서 민간과 기술 격차를 완화할 방안을 찾아야 한다. 만약 학습 품질이 우수한 최신 AI 기술을 즉각 확보하지 못하면 정부 AI 시스템에 대한 신뢰성이 급격히 떨어질 수 있다.

이에 정부가 최신 AI 기술을 적시에 조달할 수 있는 법안과 시스템을 만들고 공공 기관도 자체적으로 최고 수준의 AI 인재를 확보하기 위한 방안을 마련해야 한다는 게 SPRi 측의 주장이다.

또한 SPRi는 "범죄 예측, 신용정보 분석, 복지대상 판별 등 국민에게 민감한 영향을 줄 수 있는 의사결정 분야에 검증되지 않은 AI 기술을 적용하는 것은 신중할 필요성이 있다"며 "특히 민간 AI 기술을 계약을 통해 도입할 경우 AI 알고리즘의 투명성과 설명 가능성에 대한 책임을 지는 민간의 관리 감독자를 함께 선임해야 한다"고 주장했다.