HBM 병목 해소 총력…용인 클러스터 2027년 완공 

SK텔레콤, 해인 클러스터로 독자 AI 모델 개발 박차

최태원 SK그룹 회장이 AI 인프라의 진짜 병목을 ‘GPU’가 아닌 ‘HBM(고대역폭메모리)’으로 진단하고, 파트너와의 협력을 통한 효율 중심 전략을 제시했다.

최태원 회장은 3일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋 2025’에서 기조연설을 통해 “AI 수요는 폭발적으로 늘어나고 있지만 공급이 이를 따라가지 못하고 있다”며 “이제 AI는 단순한 규모의 경쟁이 아니라 효율의 경쟁으로 넘어가야 한다”고 강조했다.

4년새 투자 3배 급증…”예측 불가능한 성장세”

최 회장은 글로벌 AI 데이터센터 투자 규모가 2020년 2300억달러(약 307조원)에서 올해 약 6000억달러(약 800조원)로 4년 만에 3배 증가했다고 밝혔다. 그는 “오픈AI ‘스타게이트’ 프로젝트처럼 약 700조원에 달하는 초대형 투자 계획이 속속 등장하고 있다”며 “AI 인프라 투자는 선형에서 지수함수적 성장 단계로 전환됐다”고 진단했다.

AI 수요 급증의 원인으로는 △인퍼런스(추론) 수요 폭증 △B2B 기업의 본격적 AI 도입 △에이전트 AI 등장 △소버린(국가 단위) AI 경쟁을 꼽았다.

최 회장은 특히 인퍼런스 수요 증가를 주목했다. “AI가 스스로 평가하고 검증하는 반복 과정이 늘어나면서, 트레이닝보다 인퍼런스 수요가 더 커졌다”며 “필요한 컴퓨팅 파워와 토큰 사용량이 기하급수적으로 늘고 있다”고 설명했다.

기업의 AI 투자도 급증하고 있다. IDC 조사에 따르면 올해 70억달러였던 기업들의 AI 투자가 3년 내 2000억달러 수준으로 늘어날 전망이다. 최 회장은 “기업 간 경쟁력 확보를 위해 AI를 도입하지 않으면 도태된다는 인식이 확산되고 있다”고 말했다.

HBM이 진짜 병목…”오픈AI 요청량, 전세계 생산량 2배”

최 회장은 AI 인프라의 진짜 병목을 ‘GPU 성능’이 아닌 ‘메모리 대역폭’으로 규정했다. 그는 “AI 칩의 연산 성능을 제약하는 진짜 병목은 메모리 대역폭”이라며 “GPU 연산 능력이 높아져도 메모리 대역폭이 받쳐주지 않으면 성능을 온전히 활용할 수 없다”고 설명했다.

실제로 오픈AI가 월 90만장의 HBM(고대역폭메모리)을 요청한 것으로 알려졌다. 최 회장은 “이는 전 세계 전체 HBM 월 생산량의 2배 수준”이라며 “단일 기업의 수요가 산업 전체 공급 능력을 압도하는 전례없는 상황”이라고 강조했다.

월 90만장은 12인치 웨이퍼 기준으로, 현재 글로벌 HBM 시장을 주도하는 SK하이닉스와 삼성전자, 마이크론의 총 생산량을 훨씬 초과하는 규모다. HBM은 AI 칩의 연산 속도를 좌우하는 핵심 부품이다.

용인 클러스터 2027년 완공…청주 팹 24개 규모

이에 대한 해법으로 SK하이닉스는 생산 능력 확대와 기술 혁신을 동시에 추진한다. 청주에 HBM 신규 공장을 완공하고 내년부터 본격 가동에 들어간다. 2027년에는 용인 반도체 클러스터를 완공해 팹(반도체 제조시설) 4기를 구축하고, 각 팹당 6개 생산라인을 배치해 최대 24개 생산라인을 확보할 계획이다.

최 회장은 “용인 클러스터는 청주 M15X 팹 24개 규모로 설계했다”며 “수요 곡선이 불확실한 만큼 빠르게 대응할 수 있는 생산 공간과 기술 옵션을 확보해두고 있다”고 말했다.

그는 “SK는 단순히 생산능력을 늘리는 데 그치지 않고, 기술 혁신으로 해결책을 찾고 있다”며 “HBM과 함께 낸드 기반의 대용량·고효율 메모리 개발로 병목을 해소하겠다”고 덧붙였다.

“AI로 AI 문제 해결”…제조 공정 자율화

최 회장은 효율적 AI 인프라 구축을 위한 세 가지 전략을 제시했다. 첫째는 차세대 데이터센터 구축이다. 최 회장은 “AI 칩·전력·시스템·운영이 통합된 새로운 형태의 데이터센터가 필요하다”며 “SK는 AWS 및 오픈AI와 협력해 울산과 서남권에 차세대 AI 데이터센터를 구축할 예정”이라고 밝혔다.

둘째는 ‘AI로 AI 문제 해결(AI for AI)’ 전략이다. SK하이닉스는 엔비디아와 협력해 디지털 트윈 솔루션을 도입하고 완전 자율형 오토노머스 팩토리를 구현할 계획이다. 디지털 트윈은 실제 공장을 가상 환경에 그대로 구현해 생산 공정을 최적화하는 기술이다.

최 회장은 “메모리 칩 생산과 데이터센터 운영에도 AI를 도입하고 있다”며 “이러한 제조 AI 솔루션을 다른 산업과 스타트업에도 개방해 생태계를 확산시킬 것”이라고 밝혔다.

셋째는 협력 기반 생태계 구축이다. 최 회장은 “SK는 파트너와 경쟁하지 않는다”며 “처음부터 함께 솔루션을 설계하고 발전시켜 나가는 게 우리의 방식”이라고 강조했다. 그는 “규모만 키우면 자본력에 따라 ‘AI 디바이드’가 발생할 수 있다”며 “효율성을 높여야 더 많은 나라와 기업이 AI의 혜택을 누릴 수 있다”고 덧붙였다.

SK텔레콤, 해인 클러스터로 독자 AI 모델 개발

이날 행사에서는 최 회장에 이어 정재헌 SK텔레콤 신임 대표가 두 번째 기조연설자로 나서 첫 공식 행보를 시작했다. 정 대표는 “AI 시대가 도래하면서 미래를 예측하기 어려운 무서운 변화가 이뤄지고 있다”며 “AI 대전환의 한가운데에서 국가를 대표하는 회사를 이끌게 돼 막중한 책임을 느낀다”고 소회를 밝혔다.

정 대표는 SK텔레콤이 구축한 AI 인프라 성과를 중점적으로 소개했다. 특히 엔비디아 최신 GPU인 B200을 1000장 이상 탑재한 국내 최대 규모 AI 클러스터 ‘해인’ 구축을 강조했다. B200은 이전 세대인 H100 대비 AI 추론 성능이 최대 30배 향상된 것으로 알려져 있다.

정 대표는 “해인은 SK텔레콤의 고유 역량과 파트너십을 결집한 결과로, 독자 AI 파운데이션 모델 개발에 사용하고 있다”고 설명했다. SK텔레콤은 지난 8월 과학기술정보통신부가 주관하는 ‘독자 AI 파운데이션 모델’ 사업에 선정돼 공공 데이터 기반의 국산 AI 모델을 개발 중이다.

울산 1GW·서남권 신규 센터…아시아 최대 규모 목표

정 대표는 데이터센터 확장 계획도 밝혔다. 그는 “7조원 규모의 울산 데이터센터를 아마존과 공동으로 건설하는 계약을 체결했다”며 “전력 용량을 1기가와트(GW)까지 확장해 아시아 최대 규모로 만들 것”이라고 말했다.

정 대표는 “서남권에도 데이터센터 신설을 위해 오픈AI와 전략적 파트너십을 구축했다”며 “정부와 지자체, 글로벌 선도 기업이 함께 추진하는 다자간 협력의 첫 사례”라고 강조했다. 현재 SK텔레콤은 울산 외에 서울 구로 지역에도 추가 데이터센터 설계를 진행 중이다.

아울러 “범용 데이터센터와 함께 초저지연 엣지AI 생태계 조성에도 앞장설 것”이라며 “엣지AI 실현을 위해 아마존과 중장기 협력 기반을 이미 완료했다”고 덧붙였다. 엣지AI는 클라우드가 아닌 기기 단에서 직접 AI 연산을 수행해 응답 속도를 획기적으로 높이는 기술이다.

샘 알트만 “한국, AI 도입 선도국…장기 협력 기대”

샘 알트만 오픈AI CEO는 영상 메시지를 통해 SK그룹과의 파트너십을 “한국과 세계 AI의 미래를 결정할 장기적 협력의 시작”이라고 평가했다. 그는 “AI는 현대 역사상 어떤 기술보다 빠르게 발전하고 있으며, 이를 지원하기 위해 인류가 경험하지 못한 규모의 인프라가 필요하다”고 강조했다.

알트만 CEO는 “우리가 상상하는 미래는 개인별로 자신의 지능형 환경 시스템이 대신 일해주는 세상”이라며 “이를 실현하려면 대규모 협력 인프라 투자와 조정이 필수”라고 말했다. 이어 “AI 인프라는 철도와 마찬가지로 필수 기반 시설이 돼 전 세계 수십억 명에게 서비스를 제공할 것”이라며 “단일 기업만으로는 이 목표를 이룰 수 없다”고 강조했다.

한국의 AI 비전에 대해서는 “최근 이재명 대통령과의 만남에서도 AI가 더 나은 사회를 구축하는 데 어떻게 기여할 수 있을지 논의했다”며 “한국은 탄탄한 정부 비전과 세계적 수준의 기술 인재로 AI 도입 선도국”이라고 평가했다.

그는 “SK의 첨단 기술 역량은 이러한 기반을 더 강하게 만들어준다”며 “정부·산업계·기술 리더가 미래를 함께 만들 수 있음을 보여주는 사례”라고 덧붙였다. 또한 “SK와 함께 한국 내 AI 데이터센터 건설을 모색하고 한국의 AI 우위 강화와 글로벌 발전에 기여할 기회를 기대한다”고 말했다.

올해로 2회째를 맞은 SK AI 서밋은 ‘AI Now & Next’를 주제로 반도체, 에너지솔루션, AI 데이터센터, 에이전트 서비스 등 SK그룹의 AI 경쟁력을 산업계·학계와 공유하고 글로벌 AI 생태계 발전 방향을 모색하는 자리로 마련됐다.