SKT, 엔비디아 GPU 기반 구독형 AI 클라우드 사업 본격화

SK텔레콤이 미국 회사 람다와 1여년간 협업을 통해 엔비디아의 그래픽처리장치(GPU)를 기반으로 한 구독형 인공지능(AI) 클라우드 서비스를 출시했다.
AI를 활용하고 싶지만, 높은 비용 등으로 GPU 접근성이 낮은 기업들에 합리적인 선택지가 될 전망이다.

13일 SK텔레콤은 지난해 12월30일 연 가산 인공지능 데이터센터(AIDC)의 시범운영을 마치면서 본격적으로 구독형 AI 클라우드 서비스(SKT GPUaaS)를 출시했다고 밝혔다.
서비스는 현재 국내 도입 GPU 중 가장 성능이 좋은 GPU인 엔비디아의 'H100'을 기반으로 제공된다.

SKT는 지난해 11월 열린 'SK AI 서밋 2024'에서 ▲AIDC ▲GPUaaS ▲에지 AI 등 세 가지 축을 중심으로 전국의 AI 인프라를 구축하는 'AI 인프라 슈퍼 하이웨이' 전략을 발표한 바 있다.
이후 연말 조직개편을 통해 'AIDC 사업부'를 별도 조직으로 신설하고, GPUaaS를 신규 출시하는 등 AI 인프라 사업을 본격적으로 진행하고 있다.

가산 AIDC는 랙 당 전력밀도가 국내 최고 수준인 44㎾로 국내 데이터센터 랙 당 평균 전력밀도인 4.8㎾의 약 9배에 달해 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션(전문기업이 전산실 등 공간을 임대하고 고객 장비를 위탁 관리·운영하는 서비스) 환경을 제공한다.

SKT는 미국 GPUaaS 회사인 람다와 1년여간 'SKT GPuaaS' 출시를 준비해왔다.
가산 AIDC는 아시아태평양 지역에 처음으로 생기는 람다의 리전(클라우드 제공업체가 DC를 운영하는 지리적 위치)이다.
SKT는 AIDC 사업 본격 추진의 첫 번째 글로벌 행보로 지난해 2월 람다에 2000만 달러를 투자한 바 있다.

'SKT GPUaaS' 구독을 원하는 기업의 경우 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고 단독 서버·방화벽·전용회선 등 맞춤형 패키지를 구성할 수 있다.
가격은 선택사항에 맞게 결정되며 1~2개월의 단기 서비스 이용도 가능하다.

고객사는 독자적 GPU를 기반으로 AI 학습 및 추론을 시행할 수 있으며, 방화벽과 전용 회선을 활용하면 보안성도 강화할 수 있다.
또 AI 작업량이 급격하게 늘더라도 단독 서버에 GPU를 추가할 수 있어 추가 시설 투자 부담도 덜 수 있다.

또 공유형 클라우드와 상호 연동도 가능하다.
고객사가 기존 사용하던 클라우드를 활용하면서 SKT의 GPU 컴퓨팅 파워도 이용할 수 있는 것이다.

SKT의 AI 클라우드 매니저와 함께 활용하면 GPU 자원을 효율적으로 관리할 수 있다.
이는 수많은 GPU 자원을 한 대의 컴퓨터처럼 관리해 성능을 극대화하고 AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다.

SKT에 따르면 GPUaaS는 정식 출시 전부터 100개 이상의 기업들이 구체적인 내용을 문의했으며 AI를 연구하는 대학과 연구기관에서도 관심을 보이고 있다.
기업들은 서비스를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용에 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격으로 짧게 이용 가능 ▲서버구매와 DC 운영 고민 없이 GPU 자원 즉시 사용 등으로 꼽았다.

SKT는 올해 1분기 중 최신 GPU인 H200를 국내 최초로 도입해 GPUaaS 고객 확대에 속도를 더하겠다는 계획이다.

김명국 SKT GPUaaS사업본부장은 "이번 GPUaaS 출시는 AIDC 사업이 고객에게 다가가는 첫 번째 사례"라며 "국가 AI 경쟁력을 높이는 GPU 팜을 구축하겠다"고 밝혔다.