“한국어는 챗GPT보다 낫지” KT, 비장의 무기 '한국적AI' 비결은

[이데일리 윤정훈 기자] KT(030200)가 마이크로소프트(MS)와 협업을 통해 만든 ‘한국적 인공지능(AI)’을 올해 2분기 내에 선뵈겠다고 밝혔다. KT는 한국어 정보를 전문적으로 학습한 AI를 앞세워 국내 산업계의 AX(인공지능 전환) 사업을 본격화한다는 방침이다.

KT AI Lead 김훈동 상무가 발표를 하고 있다(사진=KT)

김훈동 KT 전략·사업컨설팅부문 AI 리드(상무)는 27일 온라인 브리핑에서 “기성 AI모델은 미국 중심 데이터 기반이라 한국어 이해도와 정서 반영이 부족하다”며 “KT와 마이크로소프트는 고급 튜닝을 통해 한국 교과서 텍스트를 다 합친것보다 수십배 이상을 학습시켰고, 60년치 기사를 넣었기 때문에 챗GPT보다 한국말을 훨씬 잘한다”고 강조했다.

KT가 MS와 손잡고 만들고 있는 한국적 AI는 오픈AI의 GPT-4o 기반 모델에 한국어 데이터를 학습시켜 성능을 끌어올린 것이 특징이다.

김 리드는 “기업들이 일반적인 LLM(대형언어모델)에서 제공하는 API(응용프로그램 인터페이스)를 가지고 단순하게 파인튜닝하면 3~4%밖에 정확도를 올릴 수 없다”며 “저희는 한국과 특정 산업에 대해 ‘미드 트레이닝(중기 학습)’된 모델을 제공하기 때문에 일부 영역에서 챗GPT보다 10~15% 이상 똑똑하다”고 설명했다.

KT는 중기 학습 과정을 용이하기 위해서 글로벌 기업 팔란티어와도 협업을 맺었다. 팔란티어 파운드리 플랫폼을 활용해 단순 데이터를 AI모델과 연동할 수 있도록 지원한다.

김 리드는 “단순하게 지식을 읽어주는 것만으로 AI는 똑똑해질 수 없다”며 “금융 산업을 예로 들면 개인의 신용점수 흐름, 수익의 흐름 등 다양한 수치를 로직과 결합해야 구동되는데 이 분야는 팔란티어가 가장 잘한다”고 팔란티어와 협업을 소개했다.

KT가 만든 한국적AI 기반의 은행 대출 AI가 고객과 상담을 하고 있는 모습을 시연중이다(사진=KT)

KT는 이 한국적AI를 활용해 금융권과 진행한 프로젝트도 공개했다. 이 프로젝트는 은행 직원들이 대출 업무를 할때 복잡한 프로세스를 할 수 있는 프로세스를 자동화하는 AI를 만든 사례다.

김 리드는 “고객이 중간에 말을 끊고, 내용을 수정해도 AI가 이를 알아듣는다”며 “한 번에 여러 정보를 언급할 뿐 아니라 순서가 뒤죽박죽이 돼도 인간 상담사처럼 이해해서 과거 챗봇과는 다르다”고 강조했다.

KT는 이런 한국적 AI를 기업들이 클라우드 기반에서 안전하게 이용할 수 있도록 ‘KT SPC(시큐어 퍼블릭 클라우드)’도 함께 출시한다. KT SPC는 KT가 MS와의 전략적 협력을 통해 데이터 주권을 지키면서 이용할 수 있는 한국적 소버린 클라우드다.

KT SPC는 기밀 컴퓨팅이라는 하드웨어 기반의 메모리 암호화 기술을 활용해서 메모리 덤프가 유출되더라도 복호화를 불가능하도록 했다. 키는 고객만이 접근할 수 있는 ‘관리형 HSM(하드웨어 보안 모듈)’ 등을 활용해 고객이 데이터의 모든 단계에서 데이터를 통제할 수 있다는 것이 강점이다.

강 상무는 “현재 국내 퍼블릭 클라우드는 글로벌 CSP(클라우드 서비스 제공업체) 3사가 전체 시장의 85%를 차지하고 국내 사업자는 15% 정도로 구성돼 있다”며 “보안을 강화한 KT SPC는 서비스형 인프라(IaaS) 위에 서비스형 소프트웨어(SaaS), 서비스형 플랫폼(PaaS) 서비스를 적용해서 이들 서비스를 사용할 때도 데이터 보안을 강화할 수 있는 형태의 클라우드 서비스를 제공하는 것이 목표”라고 말했다.