AI 에이전트 시대, 법은 여전히 구시대적…“책임은 누구에게?”

[이데일리 김현아 기자] 세계 최초로 내년 1월 22일 시행을 앞둔 대한민국의 ‘인공지능기본법’이 급격히 진화하고 있는 ‘AI 에이전트 시대’를 반영하지 못한다는 지적이 나온다. 법 제정 당시만 해도 AI는 데이터를 학습해 사용자의 지시에 응답을 생성하는 수준이었지만, 지금은 여러 모델이 역할을 나눠 토론을 거쳐 결론을 도출하는 멀티모델·에이전트 기반 AI로 진화하고 있다.

전문가들은 “현행 법 체계로는 새로운 AI 환경을 규율하기 어렵다”며, 인공지능기본법의 정의 조항 개정이나 최소한 제34조 안전성·신뢰성 규제 조항의 유예·보완을 요구하고 있다.

다중 AI에이전트 시스템 환경 [이데일리 문승용 기자]

MS ‘의료 오케스트레이션’, AI 진화의 상징

마이크로소프트(MS)가 지난 6월 말 공개한 ‘MAI-DxO(Microsoft AI Diagnostic Orchestrator)’는 AI 진화의 상징으로 꼽힌다. 여러 AI 에이전트가 가설 제시, 반박, 검사 제안, 윤리 판단을 맡아 토론한 뒤 최종 진단을 내리는 방식이다.

MS는 오픈AI, 앤트로픽, 구글, xAI, 딥시크 등 다양한 거대언어모델(LLM)을 활용했다. 그 결과, 인간 의사가 평균 20% 정답률에 그쳤던 난제에서 AI는 85.5%의 정확도를 기록했다.

김병필 KAIST 기술경영전문대학원 교수(변호사)는 “MS는 의료 전용 모델을 새로 만든 것이 아니라 기존 LLM을 배정해 조율했을 뿐”이라며 “이 단순한 오케스트레이션만으로도 난제 진단 성과와 비용 절감을 동시에 이뤘다”고 설명했다. 그는 또 “핵심은 데이터 양이 아니라 협업과 조율”이라며, 오케스트레이션 과정이 기록·검증 가능해 블랙박스 문제가 줄어든다고 강조했다.

전문가들은 이번 사례를 ‘전문가 에이전트 시대’의 서막으로 평가한다. 국내에서도 SK텔레콤, 카카오, LG유플러스, 뤼튼테크놀로지스 등이 멀티 LLM 기반 서비스를 개발하며 발맞추고 있다.

제도 공백, 책임 논란 불가피

하지만 제도는 여전히 뒤처져 있다. 현행 AI 기본법(34조)과 정부·TTA 가이드라인은 단일 모델 기준으로만 안전성·신뢰성 확보 조치를 설계하고 있어 다중 에이전트 환경을 반영하지 못한다. 여러 에이전트가 협업하는 서비스에서 문제가 생기면 책임 주체를 어떻게 나눌 것인가가 핵심 쟁점이다.

여기에 더해 모델 컨텍스트 프로토콜(MCP)이 인터넷의 ‘http’처럼 확산되면 다양한 AI 모델과 외부 도구, 데이터 소스가 표준화된 방식으로 상호작용하게 된다. 이 경우 공개 데이터 출처 표기, 내부 정보 접근 권한 검증 등 새로운 법적 과제가 불거질 전망이다. 전문가들은 “에이전트와 오케스트레이션 시대에 맞는 제도 보완이 시급하다”고 입을 모은다.

기억형 AI 에이전트 확산…“내가 동의했었나?”

한편, 기억형 AI 에이전트의 확산 역시 편리함과 동시에 심각한 개인정보 우려를 낳고 있다. 내가 원치 않아도 민감한 정보가 모르는 사이에 저장·활용될 수 있기 때문이다.

애플은 2024년 개발자 회의에서 iOS 내 캘린더·메시지 기능을 애플 인텔리전스에 통합한다고 발표했고, 구글 역시 I/O 2025에서 지메일·독스·드라이브와 AI 연동을 선언했다. 이는 사용자가 가진 앱, 문서, 이메일, 일정 등을 AI가 저장·활용할 수 있도록 허용한다는 의미다.

문제는 대화 이력이나 개인 속성이 동의 없이 프로파일링되는 과정에서 개인정보 자기결정권이라는 개인정보보호법의 근본 전제가 흔들릴 수 있다는 점이다.

김병필 교수는 “AI 에이전트 시대에 사람들이 자발적으로 정보를 넘겨주면 개인정보보호법이 할 수 있는 역할이 제한된다”며 “저장 범위 통제·삭제권 보장, 그리고 에이전트가 어떤 데이터를 활용하는지에 대한 명확한 고지가 필요하다”고 강조했다. 그는 “다만 프라이버시 보호가 신생 AI플랫폼 기업의 진입을 저해해 오히려 기존 플랫폼 기업의 시장 지배력 강화 수단으로 악용될 가능성도 있다”고 지적했다.