챗GPT 믿은 용인 경찰..."있지도 않은 판례 인용" 발칵

[이데일리 홍수현 기자] 경찰이 불송치 결정문을 작성하는 과정에서 실제 존재하지 않는 법리를 인용한 사실이 뒤늦게 드러났다. 인공지능 챗GPT를 활용하다 발생한 실수다.

(사진=챗GPT)

17일 서울 서대문구 경찰청에서 열린 국회 행정안전위원회 국정감사에서 더불어민주당 권칠승 의원은 경기 용인동부경찰서가 작성한 아동복지법 위반 사건 불송치 결정문 일부를 공개했다.

결정문에는 대법원과 서울북부지법에서 판결문을 인용한 것이라며 “일시적이거나 단편적인 언행만으로는 아동의 정신 건강 및 발달에 해를 끼친다고 단정하기 어렵고, 반복성·지속성 및 구체적인 피해 정황이 인정되어야 한다”는 문구가 담겼다.

그러나 고소인 측이 내용을 확인한 결과 이는 거짓으로 드러났다. 챗GPT가 존재하지도 않는 판례를 만들어 결과로 출력했고 경찰은 이를 의심 없이 인용한 것이다.

권 의원은 “경찰이 존재하지도 않는 법리를 인용해서 사건을 종결한 것”이라며 “판결문에 없는 내용을 인용한 것”이라고 지적했다.

이에 유재성 경찰청장 직무대행은 AI를 활용해 작성했다는 보고를 받았다며 “판결문을 잘못 인용한 것”이라고 인정했다.

권 의원은 “저 판례를 검색하고 내용을 추출할 때 무슨 AI를 썼느냐”고 물었다. 이에 유 직무대행은 “챗GPT로 한 것으로 알고 있다”고 답했다.

현재 경찰청은 자체 법률 AI를 활용하고 있는데 자체 시스템이 아닌 민간 챗GPT를 사용한 것이다.

권 의원은 “(경찰청 자체 법률 AI가 있는데) 왜 챗 GPT를 썼느냐. 이해가 안 되는 과정”이라며 “그나마 고소인의 법률대리인이 내용을 살펴보고 문제 제기하는 바람에 드러났다”고 질타했다.

권 의원은 현재 경찰 내 AI 활용 가이드라인이 있느냐는 질문을 던졌다. 이에 유 직무대행은 “저희가 그 후에 유의 사항을 지침으로 하달했다”고 답했다. 권 의원은 “얼마나 뒷북이냐. 빨리 만들고 교육하라”고 촉구했다.

한편 법조계는 현재 AI를 가장 적극적으로 도입하고 있는 상위 10개 산업 중 하나로 꼽힌다. 미국 경찰은 드래프트 원(Draft One) 모델을 활용해 사건 보고서 작성 시간을 40% 단축하며 투명 치안을 실현하고 있고, 싱가포르는 AI 기반 챗봇 플랫폼 VICA를 통해 60여 개 기관에서 24시간 국민 문의에 대응하며 월간 80만 건 이상을 처리하는 성과를 거두고 있다.