A라는 식물이 있습니다. 사람들은 하루에 한 번 물을 주며 자라기를 기다렸지만, 생각보다 성장은 더뎠습니다. 그런데 어느 날, B라는 사람이 가설을 세웁니다. “혹시 A는 물을 많이 줄수록 더 크게 자라는 식물이 아닐까?” 하고요. 그리곤 물이 생길 때마다 아낌없이 주었고, 놀랍게도 A는 쑥쑥 자라기 시작했습니다.

하지만 문제가 발생합니다. A가 생각한 것보다 훨씬 빠르게 자라는 바람에, 미처 큰 화분과 새로운 비료를 준비하지 못했던 것이죠. 그러자 분갈이 전문가인 C가 나타나 이렇게 말합니다.

“우리가 A에 걸맞은 화분과 비료를 마련하겠습니다. 함께 A를 거목으로 키워, 그 결실을 모두와 나누시죠.”

무슨 뜬금없는 이야기냐고요? 사실 이 이야기는 SK AI SUMMIT 2025를 짧게 요약한 비유입니다. 여기서 A는 AI, B는 OpenAI, C는 SK를 뜻하는데요. 이게 도대체 무슨 이야기인지, 자세히 살펴보겠습니다.

SK그룹 최태원 회장은 최근 불거진 AI 버블 논란과 수요 예측으로 기조연설을 시작했습니다. 먼 미래의 수요에 대해 정확한 예측을 할 수 없다는 것을 인정하면서도, ‘추론’ 시장의 본격화·기업들의 생존을 건 B2B 수요 증가·24시간 쉬지 않는 AI Agent의 등장·정부 주도의 ‘소버린 AI’ 경쟁 등을 근거로 가까운 미래의 AI 수요가 폭발적으로 증가할 것이라 확신했습니다.

문제는 공급이 그 폭발적인 수요를 따라가지 못하고 있다는 점입니다. 과거에는 GPU 하나가 병목이었지만, 이제는 메모리·전력·데이터센터·지정학적 리스크까지 AI의 성장을 가로막는 복합적인 제약이 되고 있습니다. 특히 AI라는 식물의 열매는 생산성과 편의성을 높여줄 것이 확실한데요. 이 열매를 더 많은 이들이 함께 누리려면 지금보다 훨씬 큰 화분으로 옮겨 심는, 즉 AI 인프라의 대대적인 분갈이가 반드시 필요합니다.

그리고 분갈이에 뜻을 같이 하는 인물이 등장하는데요. 바로 OpenAI 샘 올트먼 CEO입니다. 그는 이 문제를 풀기 위한 해법으로 ‘스타게이트(Stargate)’ 프로젝트를 제시했습니다. 향후 5년 간 한화 700조 원 규모의 AI 인프라를 구축하는 초대형 계획으로, 올트먼은 이 프로젝트의 핵심 파트너로 SK를 직접 지목했습니다. 실제로 “향후 월 90만 장의 HBM 공급이 필요하다”라고 요청했는데, 이는 현재 SK하이닉스 최대 생산량을 넘어서는 수준입니다.

SK는 폭발하는 수요에 맞춰 청주 공장을 증설하며 선제적인 대응에 나섰고, 2027년에는 청주 공장의 24배 규모의 용인 클러스터를 완공할 예정입니다. 하지만 단순히 양적 팽창만으로는 다가오는 AI 시대를 효과적으로 대응하기 어렵다고 판단했습니다. 그래서 새로운 비전을 제시하는데요. ‘규모(Scale)’의 경쟁을 ‘효율(Efficiency)’의 경쟁으로 바꾸는 것입니다. 최 회장은 엔비디아와의 협력을 통해 AI를 반도체 생산 공정에 적용, 수율과 생산성을 높이는 ‘AI for AI’ 전략을 그 구체적인 복안으로 제시했습니다.

최태원 회장이 AI의 성장 속도에 맞는 더 큰 화분이 필요하다고 선언했다면, SK텔레콤 정재헌 CEO는 그 화분을 어떻게 만들고, 어떤 비료로 채울지 구체적인 설계도를 제시했습니다.

먼저, SKT는 대한민국 최대 규모의 AI 데이터센터, 즉 AI를 담을 새로운 화분을 울산에 유치했습니다. 아마존과 약 7조 원을 공동 투자해 건설 중인 이 시설은 SK그룹의 전력, 반도체, 시공 기술력을 총동원한 ‘AI 인프라의 상징적 분갈이’라 할 수 있습니다. 또한 AI가 충분히 영양분을 흡수할 수 있도록 국내 최대 규모의 GPU 클러스터 ‘해인(HAEIN)’, 즉 AI 성장의 비료를 마련했습니다. 이를 통해 AI가 더 크고, 영양가 많은 열매를 맺을 수 있는 환경을 조성하고 있습니다.

여기서 SKT는 한 걸음 더 나아갑니다. AI라는 식물은 가벼워 전 세계로 퍼질 수 있지만, 이를 담아낼 화분(인프라)은 만들기도, 옮기기도 쉽지 않은데요. SKT는 AI가 어느 나라에서도 뿌리를 내릴 수 있도록 추진 중입니다. OpenAI와 협력해 서남권에 AI 데이터센터 건설을 추진하고, 베트남을 비롯한 글로벌 시장 진출을 예고한 것입니다.

마지막으로 SKT는 AI 인프라 경쟁의 본질이 결국 ‘효율’에 있다는 점에 주목했습니다. 그래서 데이터센터의 설계부터 운영까지 전 과정을 글로벌 파트너들과 함께 내재화한 턴키(One-stop) 솔루션 모델을 도입했습니다. 이는 마치 AI 산업의 ‘분갈이 키트’에 비유할 수 있는데요. 토양을 고르고, 비료를 섞고, 물의 순환을 조절해 AI가 어디서든 자랄 수 있는 생태계를 완성하려는 전략입니다.

오후에 진행된 키노트에서는 SK가 제시한 비전이 실제 현장에서 어떻게 증명되고 있는지 확인할 수 있었습니다. 세계 최고 수준의 컴퓨팅 환경을 다루는 로스 알라모스 국립 연구소의 Thomas Mason은, AI와 마찬가지로 슈퍼컴퓨터 역시 ‘메모리 병목 현상’이 성능을 저해하는 가장 큰 요인이었다고 설명했는데요. SK하이닉스의 HBM으로 그 문제를 해결했다고 증언했습니다.

그렇다면 SK는 어떻게 이런 핵심 솔루션을 제공하는 ‘AI 인프라 전문가’가 될 수 있었을까요? 그 답은 박준우 매니징 파트너의 진행으로 이어진 패널 토론에서 드러났습니다. 무대에 오른 슈퍼마이크로의 Clay Simmons 부사장은 SK의 독보적인 강점을 다음과 같이 설명했습니다.

“다른 나라에는 SK그룹 같은 회사가 없습니다. SK그룹은 통신, 에너지, 반도체를 모두 소유하고 있습니다. 여러 산업에 걸쳐 영향력을 만들고 변화를 이끌어낼 수 있는 이런 그룹은 다른 나라에는 없습니다.”

그의 발언은 SK가 가진 가장 강력한 무기, 바로 AI 인프라에 최적화된 ‘수직계열화’를 정확히 짚어냅니다. AI 데이터센터는 막대한 전기를 소비하고(에너지), 초고속 네트워크로 연결되어야 하며(통신), 그 안은 최첨단 반도체로 가득 차야 합니다. SK는 이 세 가지 핵심 요소를 모두 그룹 내에 보유한, 전 세계적으로도 유례를 찾기 힘든 구조를 갖추고 있습니다.

SK AI 서밋 2025가 던진 핵심 메시지는 단순합니다. “무엇을 할 것인가”가 아니라, “어떻게 그것을 해낼 것인가”에 대한 명확한 해답이었습니다. AI 인프라라는 거대한 과제를 앞에 두고 SK가 택한 방식은 서로 상반되어 보이는 두 축을 동시에 활용하는 것이었습니다.

첫 번째 축은 SK그룹이 가진 수직계열화의 힘입니다. 반도체, 에너지, 통신이라는 AI 인프라의 세 핵심 요소를 모두 품은 구조 덕분에 SK는 AI 데이터센터 구축의 병목을 스스로 조율하며 속도와 안정성을 동시에 확보할 수 있는 드문 기업이 되었습니다.

두 번째 축은 개방형 협력 생태계입니다. 이번 서밋 자체가 그 증거였습니다. SK는 자신이 가진 것만을 내세우지 않고, 글로벌 리더들과 손잡아 시장의 최적 솔루션을 찾아 나가는 방식을 택했습니다. 기술의 속도가 누구보다 빠른 AI 산업에서, 이 ‘유연한 개방성’이야말로 SK가 지속적으로 진화할 수 있는 가장 현실적인 전략입니다.

결국 SK가 시작한 ‘분갈이’는 단순히 화분을 옮기는 일이 아닙니다. 이는 AI라는 생명체가 변화하는 환경 속에서도 지속적으로 자라날 수 있도록, 토양의 구조를 다시 설계하는 과정에 가깝습니다. SK의 시도가 어떤 결실을 맺을지는 시간을 두고 지켜봐야 할 것입니다.

하지만 한 가지는 분명합니다. AI 경쟁의 패러다임이 이제 모델의 성능을 넘어, 그 성장을 지탱할 ‘토양’을 누가 더 단단히 다지느냐의 싸움으로 옮겨왔다는 사실입니다. 이번 서밋은 그 변화의 흐름 속에서 SK가 어떤 방식으로 ‘토양’을 다지고 있는지를 보여준 하나의 단면이었습니다.