정치·경제·복지 등 사회 32개 영역 적용… 불공정 탐지부터 정책 개선까지 전주기 관리

탐지-진단-메타평가-추천 4단계 하이브리드 구조로 ‘설명 가능한 공정성’ 구현

한세억 동아대 행정학과 교수(인공지능정부연구소장).

동아대학교(총장 이해우)는 행정학과 한세억 교수(인공지능정부연구소장)가 사회 전반에서 발생하는 불공정 문제를 탐지·진단하고 해결 방안까지 제안하는 ‘인공지능 기반 공정성 증강 솔루션(탐지-진단-메타-추천)’을 국내외 처음으로 개발했다고 27일 밝혔다.

이번 솔루션은 정치·경제·사회복지·보건·환경·행정·사법·교육·채용·금융 등 모두 32개 사회 영역에서 발생할 수 있는 다양한 불공정 문제를 통합적으로 분석하고 개선할 수 있도록 설계됐다. 이는 단순한 현상 분석을 넘어 실제 정책 및 행정 개선까지 연결되는 ‘전주기 공정성 관리 시스템’이라는 점에서 독보적인 차별성을 갖는다.

이 모델은 △탐지(Detection) △진단(Diagnosis) △메타 평가(Meta Evaluation) △추천(Recommendation) 등 4단계 구조로 이뤄졌다. 데이터와 행정·사회 현상 속에 숨겨진 불공정 위험을 자동으로 식별한 뒤 원인과 영향을 정량적으로 진단하고 분석 결과 신뢰성을 재검증해 최종적인 정책 개선 및 제도 보완 방안을 제시한다.

특히 비지도 학습(탐지), 지도 학습(진단), 공정성 지표 기반 메타 평가, 강화 학습(정책 추천) 모델을 결합한 하이브리드 구조를 통해 단순 예측을 뛰어넘는 ‘설명 가능한 공정성 판단’과 ‘실행 가능한 정책 제안’을 구현해낸 것이 가장 큰 강점이다.

연구팀은 8만여 건 이상 불공정·공정 사례 데이터와 2만여 건의 메타데이터, 2만여 건 이상의 강화학습 전이 데이터 등을 학습시켰으며 공정성 지표(ΔTPR, ΔFPR 등) 및 정확도, 설명 가능성 등 모두 40여 개 성능지표를 종합적으로 검증해 높은 실효성을 확보했다.

한 교수는 “현재 우리 사회는 불공정에 대한 인식과 갈등이 심화하는 상황으로 이를 객관적으로 진단하고 개선할 수 있는 기술적 기반이 절실하다”며 “이번 공정성 증강 솔루션은 단순한 인공지능 모델이 아니라 공의가 강같이 흐르는 사회 구현을 위한 정책 도구로써 궁극적으로 AI 기본사회의 인프라가 될 것”이라고 강조했다.

그는 이어 “향후 AI 3대 강국을 지향하는 정부 및 지자체와 협력을 통해 실제 행정 현장에 적용하고 민간 산업 분야로 확산해 나갈 계획”이라고 밝혔다.

한 교수는 지난 2022년 교육부의 ‘고경력 우수학자 성장 지원사업’에 선정돼 모두를 위한 AI 제도화 연구를 수행 중이며 이번 모델 개발을 위해 기술보증기금으로부터 2억 원의 기술금융을 지원받아 학습데이터 셋을 구축했다.

현재 동아대 인공지능정부연구소장과 인공지능정부솔루션 벤처기업 ‘도우리에이아이’ 대표를 맡고 있으며 추가로 공공 AI 감사 보조시스템인 ‘청렴성 증강모델’과 ‘민원 행정 서비스 증강모델’도 개발 중이다.