“엔비디아 H100 20% 저렴하게” SKT, AI데이터센터 사업 본격화

[이데일리 윤정훈 기자] SK텔레콤(017670)이 엔비디아의 고성능 GPU H100을 탑재한 ‘AI 데이터센터(AIDC)’를 개소하고 본격적으로 ‘GPUaaS(AI 서비스)’ 시장에 진입했다. SKT는 글로벌 AI 컴퓨팅 서비스 기업 람다와 협력하여 국내에 AIDC를 순차적으로 확대하고, 이를 통해 GPUaaS 시장에서 선도적인 입지를 확보할 계획이다.

지난해 12월 23일 SK브로드밴드 가산 IDC에서 SKT 유영상 CEO가 GPUaaS(GPU-as-a-Service) 준비상황에 대해 점검하고 있다(사진=SKT)

“2029년까지 수천개 H100 확보예정…기업 문의 쏟아져”

SKT는 작년 12월 30일 가산 AI 데이터센터를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 ‘SKT GPUaaS’를 출시했다고 13일 밝혔다.GPUaaS 서비스는 출시 전부터 대기업을 비롯해 대학, 연구기관 등 100개 이상의 기업의 문의가 쏟아지며 높은 관심을 얻고 있다.

SKT는 ‘AI 인프라 슈퍼 하이웨이’ 구축 전략에 따라 △AI데이터센터 △GPUaaS △에지AI(Edge AI) 등 세가지 축을 중심으로 전국의 AI 인프라를 구축한다는 계획이다. 이를 위해 미국 GPU 클라우드 회사인 람다와 협력해 2029년까지 수천개의 엔비디아 H100을 투입해 기존 데이터선터를 AIDC로 전환할 예정이다. 이를 위해 SKT는 지난해 2월 람다에 2000만달러(약 290억원)를 투자했고, SK브로드밴드와 함께 5년간 3조4000억원을 투입한다고 밝힌 바 있다. 아시아태평양에서 람다 리전이 만들어 진 것은 SKT 가산 AIDC가 최초다.

이번에 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션(위탁관리) 환경을 제공한다. 이는 랙당 15㎾의 전력밀도를 내는 광주 ‘국가AI데이터센터’보다도 3배가 높다. SKT 관계자는 “SK그룹사의 액침냉각, 액체냉각 기술을 바탕으로 GPU 서버 발열을 제어하는 기술이 들어가 있다”고 설명했다.

SKT는 GPUaaS 서비스 론칭을 기념해 다음달까지 정상가 대비 20% 할인된 가격에 제공한다. 또 SKT는 고객사가 퍼블릭(공유향) 클라우드와 상호 연동해 사용할 수 있도록 패키지 상품을 준비했다. 1분기 내 GPU 신제품인 H200도 도입할 예정이다.

엔비디아의 H100은 A100의 차세대 딥러닝 GPU 모델로, 엔비디아의 공식 문서에 따르면 A100 GPU에 비해 추론 성능과 속도가 최대 30배가량 향상된 것이 특징이다. 이에 생성형AI를 활용한 서비스를 제공하는 기업이나 고성능 GPU을 활용한 AI 모델 학습을 하는 기업이나 연구소에 안성맞춤이다. AI 작업량이 많은 고객이라도 단독 서버에 GPU를 손쉽게 추가할 수 있어서 시설비 투자 부담도 덜 수 있다.

SK브로드밴드 가산 IDC 내부 모습(사진=SKT)

“국내 AIDC 갈 길 멀어...AIDC 초기라 물량 부족 여전”

AI 전문가들은 SKT의 AIDC 구축을 환영하면서도 할 일이 많다는 입장을 밝혔다. 글로벌 빅테크 기업들이 H100 GPU를 수만 개에서 수십만 개씩 확보하는 반면, 국내 AIDC의 역량은 그에 미치지 못한다는 점에서 우려를 표명한 것이다. 유상임 과학기술정보통신부 장관은 지난달 송년 기자간담회에서 “4대 과학기술원에 GPU 보유량을 조사해본 결과 전무한 상황”이라며 “대학과 연구소 등에서 GPU 컴퓨팅 인프라가 부족해 연구를 진행할 수 없는 상황을 벗어나야 한다”고 언급했다. 또한, 그는 “2026년까지 3만 개의 GPU를 확보해야 한다”고 강조했다.

유용균 AI프렌즈학회 대표(한국원자력연구원 AI응용연구실장)는 “SKT AIDC가 H100을 얼마나 확보했는지는 알 수 없지만, 현재는 많은 사용자들이 공유해서 사용하고 있어 실제 사용에는 부족하다”며 “사용자 입장에서는 우리가 확보할 수 있는 GPU 수가 중요한 문제”라고 설명했다. 이어 “공공기관은 보안 등을 이유로 상대적으로 저렴한 외산 클라우드를 사용할 수 없고, 광주 ‘국가AI데이터센터’ 등을 활용해 왔다”며 “SKT가 GPU 컴퓨팅을 가성비 있게 제공한다면 큰 도움이 될 것”이라고 덧붙였다.

다만, 대당 4000만원 정도 하는 H100을 SKT가 들여오는데, 단순 임대만 제공한다면 투자대비 수익률(ROI)이 떨어진다는 지적도 나왔다.

클라우드 업계 관계자는 “아직은 재판매 임대형으로 보인다. AI 솔루션을 서비스하는 등 추가적인 비즈니스 모델로 확장해야 할 것 같다”고 짚었다.