"AI 잘 활용하려면 성·인종 편견 없는 포용적 '젠더 혁신' 필요"

[이데일리 김범준 기자] “최근 생성형 인공지능(AI) 등 신기술 도구가 연구·개발자들에 의해 많이 활용되고 있습니다. 특히 의학 분야에서는 환자에게 긍정적인 영향을 미칠 수 있도록 이러한 도구를 잘 활용해야 합니다. 더 많은 연구에서 젠더와 인종 편견을 배제하고 포용적 관점을 도입해 실질적인 성과를 거두는 ‘젠더 혁신’을 이뤄야 합니다.”

17일 서울 중구 코리아나호텔에서 루파 사르카르(오른쪽) 란셋 디지털 헬스(The Lancet Digital Health) 편집장 겸 엘스비어(Elsevier) 젠더 파트장이 기자간담회를 하며 ‘젠더 혁신’을 강조하고 있다. 왼쪽은 이혜숙 한국과학기술젠더혁신센터 소장 겸 이화여대 명예교수.(사진=김범준 기자)

루파 사르카르 란셋 디지털 헬스(The Lancet Digital Health) 편집장 겸 엘스비어(Elsevier) 젠더 파트장은 17일 서울 중구 코리아나호텔에서 열린 기자간담회에서 이 같이 언급했다. 란셋 디지털 헬스는 엘스비어가 발행하는 세계적 의학 저널로, 엘스비어는 2015년부터 20개국에서 17개 지표를 통해 연구 분야에서 젠더 포용성과 다양성 개선을 위한 리포트를 발간해왔다.

사르카르 편집장은 “리포트에 따르면 지난 25년간 전 세계 여성 연구자 비율은 34%에서 41%로 증가했으며, 여성 선임 연구자 비율도 15%에서 30%로 늘었다”며 “하지만 연구 결과 도출이나 인용에서 여성 연구자들의 성과가 여전히 낮아, 앞으로 더 나아가야 할 길이 멀다”고 진단했다.

이어 “특허 데이터에서 여성과 남성 연구자 간 젠더 격차가 매우 크다”며 “전통적인 매트릭스에서 불평등한 젠더 요소들을 평등하게 변화시켜 나가야 한다. 성별에 관계없이 이는 모두의 공동 책임”이라고 강조했다.

2015년, 구글 포토의 AI 기반 이미지 인식 시스템이 3040대 백인 중심으로 학습되면서 흑인 사진을 ‘고릴라’로 분류한 사건은 대표적인 데이터 편향 사례로 꼽힌다. 또한 2019년 아마존의 AI 채용 도구 얼굴 인식 알고리즘은 백인 남성에 대해 0.3%의 오류율을 보였지만, 유색 여성에 대해서는 34%에 달하는 오류율을 기록했다. 이는 연구자들의 성별과 학습 방식에 따라 기술과 서비스에 편향이나 결함이 발생할 수 있음을 시사한다.

사르카르 편집장은 “편향은 데이터 자체에서 비롯되거나, 데이터를 분석하는 AI 알고리즘에서 발생할 수 있다”며 “연구 도구가 목적에 맞고 연구 대상을 적절히 선정했는지 검토하는 과정에서 ‘건강 형평성’을 판단할 수 있다”고 말했다. 그는 “편향된 인구만을 대상으로 연구하면 ‘완전한 데이터’가 아니다”라며 “예를 들어, 심장병 연구는 남성 위주로 진행되고, 암 사망률은 50대 이하 여성에서 높다. 연구 대상과 연구자들의 성별이 실제 환자 분포와 다르면 편향 문제가 생길 수 있다”고 지적했다.

사르카르 편집장은 “데이터는 투명해야 하고 알고리즘은 명확히 규명돼야만 연구가 환자에게 미칠 해로움을 평가할 수 있다”며 “연구자뿐 아니라 정부 기관과 투자자들이 포용적인 연구와 젠더 기반 혁신을 이루기 위해 어떻게 개입할지에 대한 통합적 논의가 필요하다”고 강조했다.

사르카르 편집장은 오는 18일 과학기술정보통신부가 주최하고 한국과학기술젠더혁신센터 등이 주관하는 ‘2024 국제 과학기술 젠더혁신 심포지엄’에 참석하기 위해 방한했다. 이번 심포지엄은 유럽연합(EU)의 다자협력 R&D 프로그램 ‘호라이즌 유럽’ 준회원국 가입을 계기로, 과학기술 젠더 혁신의 필요성을 조명하기 위해 마련됐다.

사르카르 편집장은 이 자리에서 ‘스탠딩 투게더(Standing Together)’라는 연구 협의체 발족을 선포할 예정이다. 그는 “협의체를 통해 다양한 데이터 활용에 있어 젠더 기반 사회적 편견이 없는 연구의 성과를 이뤄낼 수 있다”며 “지금이야말로 젠더 평등을 기반으로 한 연구를 가속할 수 있는 최적의 시기”라고 덧붙였다.