우리가 매일 사용하는 챗지피티는 어디서 작동하는 걸까?

여행 계획을 짜주는 챗지피티(ChatGPT), 내 취향에 딱 맞는 콘텐츠를 추천하는 유튜브, 사진 속 인물을 자동 분류하는 갤러리 앱까지. AI는 이제 특별한 기술이 아니라, 일상의 일부로 자리잡았습니다. 사실 ‘제2의 두뇌’로 활용되고 있는 이 AI가 작동하려면 끊임없이 계산하고 전기를 공급하는 ‘심장’이 필요합니다. AI의 편리함 뒤에는 우리 눈에 보이지 않는 거대 심장인 연산 엔진이 숨어있죠. 그리고 그 중심에는 AI 데이터센터(AI DC)가 있습니다.

AI는 생각보다 훨씬 무거운 기술입니다. 엄청난 양의 데이터를 빠르게 읽고, 비교하고, 계산하는 과정이 반복돼야 비로소 움직이기 때문입니다. ChatGPT 예시를 계속 들어볼까요? 우리가 질문 하나를 던졌을 때 GPT는 수천억 개 파라미터, 즉 생각 단위를 바탕으로 수십억 개 계산을 단 몇 초 만에 끝내야 합니다.

특히 요즘 각광받는 LLM(거대 언어 모델)은 기존 데이터센터로 돌릴 수 없습니다. AI용 GPU(그래픽 처리 장치)가 수천, 수만 장 필요한 데다 이 칩 하나당 소비 전력만 700와트 이상이죠. AI 모델 하나 학습시키는 데 드는 전기는 일반 가정 1년 치 전력량에 달합니다. AI가 제대로 작동하려면 전력, 냉각, 네트워크 등 전용 인프라가 전혀 다른 수준으로 필요하다는 뜻입니다. 이때 AI 데이터센터는 일종의 ‘AI 발전소’ 역할을 합니다.

AI 데이터센터는 단순한 서버 저장소가 아닙니다. 그곳에 저장된 데이터, 학습 모델, 연산은 한 국가의 기술, 경제, 보안의 핵심 자산이나 다름없죠. AI 데이터센터가 기술 인프라를 넘어, 외부 간섭에서 자유로운 디지털 주권(Digital Sovereignty)을 실현할 물리적 기반 시설로 여겨지는 이유입니다.

게다가 AI는 경제, 국방, 행정, 교육 등 많은 분야에 스며들고 있습니다. 데이터는 국경이 없다고들 하지만, 그것이 어디에 저장되고 어떤 법의 적용을 받는지에 따라 소유권과 통제력은 완전히 달라질 것입니다. 만약 AI 데이터센터가 해외에 있으면 산업 기밀, 국방, 행정 관련 연산 정보가 노출될 위험이 커집니다. 반면 자국에 두면 AI 모델 개발, 학습, 저장, 보안에 이르는 전 과정을 자율적으로 관리하고 보호하는 디지털 자립성을 갖게 될 것입니다.

이런 흐름 속에서 최근 여러 나라가 ‘소버린 AI(Sovereign AI)’에 주목하고 있습니다. AI 모델을 외국 기업이나 서버에 의존하지 않고, 자국 인프라와 기준에 맞게 직접 개발-훈련-운영하겠다는 전략인데요. 실제로 미국, 유럽, 중국 등 주요국은 AI 인프라 주도권을 얻기 위한 투자와 정책을 앞다퉈 마련하고 있습니다.

미국은 빅테크가 주축이 되어 세계 AI 시장의 물리적 기반 대부분을 선점하고 있습니다. 마이크로소프트(Microsoft)는 2024년 한 해에만 약 800억 달러를 AI 인프라에 투자하겠다고 발표했고, 아마존(AWS) 역시 자체 설계한 AI 전용 칩셋인 트레이니움(Trainium)과 인퍼런시아(Inferentia)로 AI 모델을 훈련하고 실행하는 데 최적화된 고성능 클라우드 컴퓨팅 자원을 제공합니다. 이는 기존 GPU 인프라보다 비용과 에너지 효율을 개선해 세계 AI 스타트업 등을 자사 데이터센터로 유입시켰죠.

오픈AI(OpenAI)의 GPT 모델도 마이크로소프트 AI 데이터센터 내 애저(Azure) 슈퍼 컴퓨팅 인프라 위에서 학습됐고, 엔비디아(NVIDIA)는 DGX 클라우드와 1GW급 AI 데이터센터 패키지로 하드웨어와 클라우드를 아우르는 AI 생태계를 구축 중입니다.

미국은 법과 기술을 모두 무기로 삼고 있습니다. 클라우드법(CLOUD Act)을 통해 해외 소재의 자국 기업 데이터센터도 정보 제공을 요구할 수 있는 권한을 확보했는데요. 우리나라의 AI 데이터센터가 해외에 진출하면 데이터나 연산 자산이 미국의 통제 대상이 될 수 있음을 의미합니다.

유럽연합(EU)은 개인정보보호규정(GDPR) 등 데이터 보호와 디지털 자율성에 민감한 지역입니다. 그래서 미국 클라우드 의존도를 줄이려 주권형 AI 인프라를 추진했죠. 주요 프로젝트는 2019년 출범한 ‘가이아-X(GAIA-X)’인데요. 유럽 각국 정부를 비롯해 하드웨어 및 소프트웨어 기업, 클라우드 응용 서비스를 이용하는 중소기업들이 참여하여 글로벌 데이터 주권을 모색하고 있습니다.

또한, 유럽 고성능 컴퓨팅 공동 이니셔티브(EuroHPC)를 통해 2027년까지 유럽 전역에 슈퍼 컴퓨팅 센터를 배치하고 과학, 기후, 보건 분야 등에 AI를 적용할 국가 간 연산 자원 공유 체계를 조성하고 있습니다. AI 윤리, 데이터 주권, 규제 기준까지 설계할 수 있는 디지털 주권 시스템을 갖추려는 것이죠. 이는 인공지능 활용을 규제하는 이른바 ‘AI법(AI Act)’ 등과 구동하며, 궁극적으로는 AI 기술이 유럽적 가치와 기준에 부합하도록 조정될 계획입니다.

중국은 AI 데이터센터를 포함한 디지털 인프라를 국가가 키우는 산업으로 바라봅니다. 2022년부터 ‘동수서산(東數西算)’ 프로젝트로 국가 컴퓨팅 허브 8개를 중심으로 한 AI 데이터센터 클러스터를 만드는 중인데요. 중국 동부의 데이터 수요와 서부의 전력 여유를 연결해 국가 차원의 AI 연산망 구축에 속도를 내고 있습니다.

미국 칩 수출 규제에는 알리바바(Alibaba), 텐센트(Tencent), 바이두(Baidu) 등 중국 기업들이 AI 칩 및 클라우드 인프라 국산화로 대응했죠. 이밖에 중국 정부는 2023년부터 생성형 AI 서비스는 사전에 등록해 감시할 수 있도록 규정했습니다. AI가 만들어내는 콘텐츠도 정부가 통제하는 체계를 생성한 셈입니다.

세계가 AI 인프라 전쟁에 뛰어드는 지금. 한국도 AI 데이터센터를 국가 전략 자산으로 규정하고 본격적인 투자와 정책 실행에 나섰습니다. 대표 사례가 SK가 울산에 건립 중인 국내 최대 규모의 AI 전용 데이터센터입니다. 이번 건립은 국가 전략과도 맞닿아 있습니다.

정부는 2024년 ‘AI 고속도로 비전’을 통해 전국 각지에 AI 데이터센터를 세우고, 고속 연산망으로 이어 AI가 산업 전반에 실시간 적용될 기반을 마련하겠다고 밝혔는데요. 대한민국을 AI 3대 강국으로 도약시킬 구조 개편이라 할 수 있죠. 이를 위해 정부는 2030년까지 민관 합동으로 100조 원가량 투자를 유치하고 AI 데이터센터용 전력 인프라 확충, 입지 규제 완화, 세제 혜택 등 종합 지원 패키지도 추진 중입니다.

SK 울산 AI 데이터센터는 향후 GW급 초대형 데이터센터로 규모를 넓힐 계획입니다. 단일 시설 기준으로 글로벌 최고 수준의 AI 연산 능력을 보유하게 될 텐데요. 전통 제조업 도시에 데이터센터가 들어서 AI 산업 도시로의 전환 가능성을 보여준 것 또한 상징적입니다. 국내 다수 AI 스타트업과 기업이 해외 클라우드에 의존하는 상황에서 우리 땅, 우리 칩으로, 우리 데이터를 학습시키는 AI 생태계를 실현할 날이 머지않은 듯합니다.

AI는 이미 우리 삶 깊숙이 들어와 있습니다. AI가 움직이고 진화하려면 연산 자원을 끊임없이 공급해 줄 심장, AI 데이터센터가 필수입니다. 어떤 AI를 만들었는지보다 AI를 어디에서, 누구의 기준으로 돌리는지가 더 중요한 시대. 울산에서 탄생한 새로운 심장이 우리나라가 AI 기술 소비국을 넘어 AI 주권 국가로 나아갈 힘찬 박동으로 뛰길 기대해 봅니다.