방대한 데이터를 품고 AI의 지혜를 펼쳐낼 인프라. SK텔레콤이 국내 최초로 엔비디아의 최신예 B200 GPU를 탑재한 AI 데이터센터 클러스터, ‘해인(海印, Haein)’의 문을 활짝 열었습니다. 팔만대장경을 보관한 해인사에서 영감을 얻은 이 이름에는, 대한민국의 AI 주권을 지키고 디지털 시대의 새로운 팔만대장경을 품겠다는 SKT의 비전이 담겨 있습니다.

지난 8월 1일, SKT는 가산 AI 데이터센터(AI DC)에서 국내 최대 규모의 B200 기반 GPUaaS(GPU as a Service)를 공식 출시했습니다. 이는 단순히 더 빠른 서버를 들여온 것을 넘어, 대한민국 AI 생태계의 지형을 바꿀 하나의 사건으로 평가되는데요. 이번에 선보이는 GPUaaS는 1천 장이 넘는 엔비디아의 최신 AI칩인 블랙웰 B200(이하 B200)을 단일 클러스터로 구성하여 제공하는 국내 최대 규모이자 최고 성능의 GPUaaS입니다. 지난 12월 출시한 H100 기반 GPUaaS보다 한층 발전된 형태죠.

스마트폰이나 PC가 세대를 거듭하며 진화하듯, AI의 두뇌인 GPU 역시 눈부신 발전을 거듭하고 있습니다. 이번 '해인' 클러스터의 핵심인 B200은 이전 세대인 H100을 뛰어넘는 엔비디아의 최신 블랙웰(Blackwell) 아키텍처 기반 제품입니다.

H100을 넘어, B200은 무엇이 다른지 숫자로 그 성능을 체감해 볼까요? 엔비디아에 따르면 B200은 H100 대비 AI 학습 성능은 최대 3배, 추론 성능은 최대 15배까지 향상되었습니다. 이는 거대언어모델(LLM)을 더 빠르게 훈련시키고, AI 서비스를 더 효율적으로 운영할 수 있음을 의미합니다. 1,000장이 넘는 B200 GPU가 하나의 클러스터로 묶여 내뿜는 연산 능력은, 지금까지와는 차원이 다른 규모의 AI 모델 개발을 가능하게 할 것입니다.

“최신 GPU인 B200을 활용해 국내 최대 규모로 준비한 SKT 해인 클러스터의 GPUaaS는 고객 및 국가의 AI 경쟁력을 높이는 계기가 될 것입니다. AI 인프라 사업자로서 국가 AI 고속도로 구축에 힘을 쏟겠습니다.”

최고의 인프라를 구축하기 위해서는 최고의 파트너가 필요합니다. SKT는 이번 ‘해인’ 클러스터 구축을 위해 글로벌 AI 데이터센터 통합 솔루션의 강자, ‘펭귄 솔루션스(Penguin Solutions)’와 손을 잡았습니다. 25년 이상 고성능 컴퓨팅(HPC) 분야에서 전문성을 쌓아온 펭귄 솔루션스는 엔비디아가 인정한 10대 구축 파트너 중 하나로, 이번 프로젝트의 완성도를 높이는 데 핵심적인 역할을 했습니다.

여기서 한 가지 궁금증이 생길 수 있습니다. “H100은 람다(Lambda)와, B200은 펭귄 솔루션스와 협력했는데, 데이터센터 내에서 파트너사를 다르게 구성할 수 있나요?” 네, 맞습니다. 가산 AI DC는 마치 잘 구획된 도시처럼, 각 클러스터가 독립적인 울타리(Rack) 안에서 최적의 파트너와 함께 구축됩니다. H100 클러스터가 람다와의 협력으로 탄생했다면, 이번 B200 ‘해인’ 클러스터는 펭귄 솔루션스와의 긴밀한 파트너십 아래 새롭게 자리 잡은 것입니다.

특히 SKT는 지난해 7월, 펭귄 솔루션스에 2억 달러 규모의 대규모 전략적 투자를 단행하며 단순한 협력을 넘어선 동맹 관계를 구축했습니다. 여기에 SK하이닉스의 차세대 메모리 기술까지 더해져, 명실상부한 ‘SK AI 클러스터 동맹’이 탄생한 것입니다. 이는 SKT AI 피라미드 전략의 핵심인 ‘자강(自强)’과 ‘협력(協力)’이 만들어낸 대표적인 성공 사례입니다.

세계 최고의 GPU를 들여오는 것만으로는 진정한 경쟁력을 갖출 수 없습니다. SKT는 ‘해인’ 클러스터에 자체 개발한 강력한 소프트웨어 기술을 녹여냈습니다. 바로 ‘페타서스(Petasus) AI 클라우드’와 ‘AI 클라우드 매니저’입니다.

이동통신업계의 오스카로 불리는 GLOMO 어워드 2025에서 ‘최고의 클라우드 솔루션’ 상을 받으며 세계적으로 기술력을 인정받은 ‘페타서스 AI 클라우드’는 GPU 자원을 마치 레고 블록처럼 자유자재로 분할하고 재구성하는 가상화 솔루션입니다. 이를 통해 고객은 필요한 만큼만 GPU 자원을 할당받아 비용 효율성을 극대화할 수 있고, SKT는 한정된 자원으로 더 많은 고객을 수용하며 인프라 가동률을 높일 수 있습니다. 또한, ‘AI 클라우드 매니저’는 AI 개발의 전 과정을 효율적으로 관리해 주는 AIOps* 솔루션으로, 사용자의 개발 편의성을 획기적으로 높여줍니다.

‘해인’ 클러스터의 가동은 SKT가 그리는 더 큰 그림, ‘AI 피라미드 2.0’ 전략에서 가장 단단한 기반을 다지는 일입니다. AI 인프라(AI DC)를 시작으로, 통신 사업의 AI 전환(AIX), 그리고 고객을 위한 AI 서비스로 이어지는 이 거대한 비전의 실현은 결국 강력한 인프라 경쟁력에서 출발하기 때문입니다.

이번 ‘해인’ 클러스터는 과학기술정보통신부의 ‘AI-컴퓨팅 자원 활용 기반 강화(GPU 임차 지원) 사업’ 공급사로도 선정되어, 국가 대표 AI 파운데이션 모델 개발에도 적극 활용될 예정입니다. 이는 SKT가 대한민국 AI 산업의 글로벌 경쟁력 강화와 생태계 고도화에 기여하겠다는 의지의 표현이기도 한데요. ‘해인’이 품은 가능성이 앞으로 대한민국 AI 생태계 안에서 어떻게 피어날지 함께 기대하고 응원해 주시기 바랍니다.