동아대 한세억 교수, 국내외 첫 '공정성 증강 AI 모델' 개발

불공정 탐지부터 정책 개선안 제시까지..."AI 기반 사회 신뢰 인프라 기대"

동아대 한세억 교수[사진=동아대학교]

 

채용, 금융, 사법, 복지 등 우리 사회 곳곳의 불공정 징후를 인공지능이 스스로 탐지하고 개선 방향까지 제안하는 기술이 등장했다.

동아대학교 한세억 행정학과 교수(인공지능정부연구소장) 연구팀은 정치·경제·행정·교육 등 32개 사회 영역에 적용 가능한 ‘공정성 증강 인공지능 솔루션’을 국내외 최초로 개발했다.

이번 솔루션은 불공정 징후를 탐지한 뒤 발생 배경과 영향 범위를 분석하고, 이를 토대로 정책 보완 방향까지 도출할 수 있도록 설계됐다. 사회·행정 데이터 속 위험 요소를 AI가 식별하면 메타 평가와 강화학습 과정을 거쳐 제도 개선에 활용 가능한 형태로 결과를 제시하는 구조다.

연구팀은 탐지(Detection), 진단(Diagnosis), 메타 평가(Meta Evaluation), 추천(Recommendation) 등 4단계 구조를 기반으로 비지도 학습과 지도 학습, 공정성 지표 기반 메타 평가, 강화학습 기반 정책 추천 모델을 결합한 하이브리드 방식을 적용했다고 설명했다.

특히 기존 AI 모델들이 단순 예측이나 분류에 머무는 데 비해, 이번 솔루션은 ‘설명 가능한 공정성 판단’과 ‘실행 가능한 정책 제안’에 초점을 맞췄다는 점에서 차별성을 강조했다.

연구팀은 8만여 건 이상의 공정·불공정 사례 데이터와 2만여 건의 메타데이터, 2만여 건 이상의 강화학습 전이 데이터를 학습시켰다. 또 정확도뿐 아니라 ΔTPR, ΔFPR 등 공정성 관련 지표를 포함한 40여 개 성능 지표를 종합 검증했다고 밝혔다.

이번 연구에서는 ‘공정성’ 자체가 사회적·정치적 관점에 따라 달라질 수 있다는 점도 주요 고려 대상이었다. 연구팀은 데이터 구축 과정에서 특정 정치적 성향이나 연구자의 가치관이 직접 반영되지 않도록 객관성과 중립성 확보를 핵심 원칙으로 삼았다고 설명했다.

이를 위해 언론보도 기사, 정책자료, 판례, 감사 사례, 연구보고서, 공공기관 자료 등 다양한 출처에서 약 22만건의 원자료를 수집한 뒤 중복 제거와 오류 수정, 맥락 검증 등을 거쳐 약 12만 건 수준의 학습 가능 데이터를 구축했다.

또 불공정성 판단 기준 역시 특정 가치판단이 아니라 구조적 특성을 중심으로 설계했다. 연구팀은 비밀·불투명성, 사적 이익 추구, 권한 남용, 부정행위, 윤리 위반, 감사 회피 등 6가지 기준 체계를 적용하고, 사례를 6하 원칙 기반 사건 단위로 구조화해 학습시켰다고 밝혔다.

데이터 편향 가능성을 줄이기 위한 기술적 검증도 병행됐다. 특정 지역이나 집단 데이터가 과도하게 반영되지 않도록 균형화 작업을 수행했고, 중복 기사나 과장 표현을 제거하는 정제 과정을 거쳤다. 이후 모델 학습 단계에서는 특정 집단에 유리하거나 불리하게 작동하지 않는지를 공정성 지표를 통해 반복 검증했다고 설명했다.

한 교수는 “불공정 문제를 둘러싼 사회적 갈등과 불신이 커지는 상황에서 이를 데이터 기반으로 진단하고 설명할 수 있는 시스템의 필요성이 커지고 있다”며 “공정성 증강 솔루션이 향후 정책 신뢰성과 행정 투명성을 높이는 데 의미 있는 역할을 할 수 있을 것으로 기대한다”고 말했다. 또 “정부와 지자체, 민간 분야 등 다양한 영역과 연계해 실제 행정 현장에 적용할 수 있는 방향으로 모델을 지속 고도화해 나갈 계획”이라고 밝혔다.

한 교수는 교육부의 ‘고경력 우수학자 성장 지원사업’을 수행하며 ‘인공지능과 사회약자’를 주제로 AI 제도화 연구를 진행하고 있다. 아울러 기술보증기금의 기술평가 기반 금융 지원을 통해 대규모 학습 데이터 인프라 구축과 모델 고도화를 추진하는 한편, 동아대 인공지능정부연구소장과 인공지능정부솔루션 벤처기업 ‘도우리에이아이’ 대표를 맡아 공공 AI 감사 보조 시스템인 ‘청렴성 증강모델’과 ‘민원 행정 서비스 증강모델’ 개발도 진행하고 있다.

연구팀은 이번 모델이 절대적인 공정성을 단정하는 시스템이라기보다 사회 현상 속에서 반복적으로 나타나는 불공정 가능성을 데이터 기반으로 탐지·진단하는 보조적 의사결정 지원 시스템에 가깝다고 설명했다.

향후 다양한 사회적 의견과 검증 과정을 반영해 모델의 신뢰성과 객관성을 지속적으로 고도화해 나간다는 계획이다.