"묻지마 AI 도입 막는다"…정부, 공공 AI과제 성과지표 개발 착수

[이데일리 윤정훈 기자] 정부가 공공부문에서 추진하는 인공지능(AI) 과제의 성과를 객관적으로 평가할 수 있는 지표 개발에 착수했다. 이는 초거대 AI 활용 기준을 마련하는 데에도 반영될 것으로 보인다.

AI 기능 별로 분류한 통합조정 상세 구성(사진=NIA)

13일 IT업계에 따르면 한국지능정보사회진흥원(NIA)은 디지털플랫폼정부위원회(디플정위)의 과제로 작년 하반기 6개월간 ‘공공부문 AI과제 성과지표 개발’ 연구를 진행했다. 공공 AI 도입이 본격화하면서 효율적인 평가 체계 필요성이 커진 데 따른 조치다.

정부는 작년 9월 제1차 국가AI위원회 AI전략을 발표하며 국가 전반에 걸친 AX(AI전환)에 나선다고 밝히며, 2030년까지 공공부문 95%에 AI를 도입하겠다는 목표를 내걸었다. 이에 올해부터 공공 부문 AI 과제 및 사업 수요 증가가 예상되는 만큼 AI 과제에 투입되는 예산과 자원의 타당성을 검증하기 위해 객관적인 성과 지표가 필수적이다.

NIA는 AI과제 평가 방법과 관련해 기존 학술논문을 분석한 자료를 바탕으로 ①행정향상 ②공공서비스 향상 ③사회적 가치 향상 ④AI 부정적 영향 등 측면에서 봐야한다고 구분했다.

NIA는 “‘공공성과 효율성’, ‘기술 및 데이터 관리’의 경우 AI과제 수준에서 관리·통제할 수 있는 것으로 성과지표 개발 시 반영 가능하다”며 “윤리 및 신뢰성의 일부는 모델 개발 시 기술적 조치를 통해서 정량화할 수 있으나, 취약계층에 대한 배려 정도와 윤리적 의사결정 능력 등은 성과보다는 사회적 협의를 통해 개선해 나가야한다”고 설명했다.

또 NIA는 AI 기능별로 △지능형 정보처리 △자동화 업무지원 △대화형 서비스 △모니터링 및 알람 등 크게 네 가지 형태로 구분해 이에 맞춰 평가하는 방안을 제시했다.

현재 공공 AI 과제는 빠르게 확대되고 있다. 지난해 기준 47개 중앙행정기관 중 38개 기관이 AI 과제를 추진 중이다. 다만, 대규모 AI 도입을 추진한 사례는 아직 많지 않으며, AI의 실제 영향력과 잠재력에 대한 체계적인 검토가 필요하다는 지적이 제기된다.

핀란드의 사례를 보면 AI의 사회적 영향력이 확대됨에 따라 시민의 기본권이 영향을 받는 만큼 2021년부터 ‘AI 편결 제거 프로젝트’를 추진했다. 또 AI 개발이 인간 지향적이며, 신뢰에 기반하는 것을 지원하기 위해 ‘AI 윤리위원회’를 설립해 지자체 알고리즘 현황을 공개하고 일반 시민을 대상으로 AI 윤리 온라인 교육과정을 운영하고 있다. 이에 한국도 AI 윤리 기준을 만들어야 한다는 의견도 나오고 있다.

디플정위는 NIA 연구를 기반으로 공공AI 평가지표를 만들고, 이를 ‘초거대 AI 가이드라인’ 2.0 버전에 추가하는 작업을 하는 것으로 알려졌다.

디플정위 관계자는 “AI과제 성과지표 개발은 다방면으로 검토 하고 있다”며 “초거대 AI 가이드라인 2.0 버전을 만드는 것은 현재로선 명확하게 말하기가 어렵다”고 말했다.