EU집행위 부위원장 "‘AI 콘텐츠에 '메이드 위드 AI’ 표기 의무화 검토"

[이데일리 방성훈 기자] “인공지능(AI)이 제작한 텍스트, 이미지, 음악 등의 콘텐츠에는 ‘메이드 위드 AI’(Made with AI) 표기를 의무화하거나, 생성형AI 서비스 제공 기업에 제품에 대한 설명 의무를 부과하는 방안 등을 검토하고 있다.”

마르그레테 베스타게르 유럽연합(EU) 집행위원회 부위원장은 25일 니혼게이자이(닛케이)신문과의 인터뷰에서 “EU는 올해 안에 챗GPT 등 생성형AI에 대한 통합 규제안을 최대한 빨리 마련할 계획”이라며 이같이 밝혔다.

마르그레테 베스타게르 유럽연합(EU) 부위원장. (사진=AFP)

EU는 이미 2년 전 AI규제안을 마련했다. 하지만 최근 챗GPT와 같은 고도의 대화 능력을 갖춘 생성형AI가 등장함에 따라 이들 서비스·제품까지 포함해 규제하는 수정안 마련에 착수했다. 이와 관련, 베르타게르 부위원장은 “2023년 후반에는 (유럽이사회 및 유럽의회를 통해) 정치적 합의를 이끌어낸 이후 (규제를) 시행하고 싶다”고 말했다.

베스타게르 부위원장은 AI와 관련된 EU 경쟁당국의 정책을 총괄하고 있으며, EU의 고위 관계자가 AI 규제와 관련해 시행 시기나 내용 등을 구체적으로 밝힌 것은 이번이 처음이라고 닛케이는 설명했다.

베스타게르 부위원장에 따르면 EU는 생성형AI의 위험성을 △수용 불가 △고위험 △제한된 위험 △최소위험 등 총 4단계로 나눠 각 등급에 따라 법적 의무를 부과할 계획이다. 위험성이 높다고 판단되는 AI 서비스에 대해서는 출시 전 EU 당국의 심사를 받는 체계를 구축하는 식이다. 베르타게르 부위원장은 “사회가 생성형AI에 과도하게 의존하게 되면 위험하다. 어린 아이들이 스스로 사고하는 힘을 기르지 않게 되거나, 경력 등의 데이터만으로 대출 고객을 차별화해 희망을 꺾을 수 있다”며 “생성형AI를 적절하게 이용하기 위해서는 ‘가드레일’이 필요하다”고 강조했다.

베르타게르 부위원장은 생성형AI가 인터넷상의 데이터를 학습한 뒤 만든 텍스트, 이미지, 음악 등 콘텐츠 등에는 ‘메이드 위드 AI’ 또는 ‘이것은 진짜 사진이 아니다’ 등의 라벨 부착을 의무화해 사용자들이 진위 여부를 알 수 있게끔 조치하는 방안을 제시했다. 아울러 생성형AI 서비스를 제공하는 기업들에는 일정한 설명 의무를 부과하는 방안도 고려하고 있다고 전했다. 그는 “(AI 서비스) 기업들은 ‘왜 AI가 그러한 판단을 했는가. 어떤 윤리적 가드레일을 마련하고 있는가’를 공개해야 한다”고 말했다.

베르타게르 부위원장은 다만 “기업들의 연구는 법 적용 대상이 아니다. 기업들은 연구·개발(R&D) 단계에선 규제 대상이 되지 않으며 (고객들이 서비스를) 이용하는 단계에서 규칙이 적용된다. 기업들은 (자유롭게) 테스트를 하고 혁신을 일으키는 아이디어를 추구할 수 있다”고 했다.

베르타게르 부위원장은 개인정보 보호와 관련해선 “아직 조사 단계지만 챗GPT 등이 EU 경쟁법의 규제 대상이 될 수도 있다”며 EU의 기존 법과 제도를 활용할 수 있다고 예고했다. 그는 “생성형AI가 경쟁을 저해하는 사례가 발생할 경우 EU 디지털시장법을 적용할 수 있고, 유해정보 유포를 막는 것을 기업들에 의무화하는 디지털서비스법을 활용할 수도 있다”고 밝혔다. 이와 관련, 베르타게르 부위원장은 미국 기술기업에 엄격한 잣대를 적용하는 것으로 잘 알려져 있으며, 마이크로소프트(MS)가 투자하는 오픈AI 및 구글 등 생성형AI를 선도하는 기업들 모두 미국 빅테크 기업이라고 닛케이는 부연했다.

베르타게르 부위원장은 이외에도 EU 내부적으로 AI 관련 조언 및 조사를 위한 조직을 준비하고 있으며, 이를 위한 인재 확보를 서두르고 있다고 전했다. 또 EU의 독자적인 규제와는 별도로, 주요7개국(G7) 등과 협력해 공통 규제 틀을 만드는 등 다른 국가·지역과의 협조에 기대감을 표했다.