왜 전세계 누구도 D램이 AI 병목임을 예측하지 못했나

이재명 대통령의 선언이다.

이 대통령은 6월 29일 반도체·피지컬 인공지능(AI)·AI 데이터센터를 축으로 하는 '3대 메가프로젝트' 보고회에서 "3대 메가프로젝트의 성과가 대한민국의 앞으로 20년, 30년을 책임지게 될 것이다"며 "청와대 안에 이 사업 직할 담당관을 두고 3대 메가프로젝트를 직접 챙기고 신속하게 집행하겠다"고 강한 의지를 밝혔다.

정부는 이날 삼성전자, SK하이닉스 등과 함께 약 4755조원에 달하는 반도체 및 피지컬AI, AI데이터센터를 전국 각지에 건립 한다는 '역대급' 투자 계획을 발표했다. 대한민국 역사상 가장 큰 규모의 민관 투자 발표다. 이로써 한국의 10~30년 간의 미래 산업 지도가 크게 바뀔 것으로 예상된다.

한국의 미래 운명을 좌우할만한 투자 결정이다. 과거 70~80년대 자동차, 조선소, 반도체 산업에 대한 과감한 투자 결정을 할 시기와 견줄만하다.

이는 AI 혁명이 가속화됨에 따라 한국산 '메모리'에 대한 폭발적 수요를 감당하기 위함이다. AI 병목이 GPU에서 메모리로 옮겨감에 따라 메모리 수요 폭발은 어느정도 예상 된 것이었지만 전세계 어느 전문가도 예측하고 실행에 옮기지 못했다. 전세계 반도체 전문가들(심지어 당사자인 SK하이닉스와 삼성전자조차)은 메모리 수요를 예측하지 못했고 애널리스트들의 주가전망은 완전히 틀렸다.

오늘 대부분의 시선은 4755조원이 어느 지역에 배분됐는지에 쏠렸다. 그러나 더 중요한 질문은 ‘왜 지금 이런 투자가 필요해졌는가’다. 답은 AI 병목의 이동에 있다.

세계가 GPU만 바라보는 사이, AI 경제의 가장 느린 고리는 메모리와 데이터센터, 전력과 용수, 그리고 피지컬 AI 인프라로 옮겨갔다. 이번 3대 메가프로젝트는 지역 개발 계획이 아니라, 한국이 AI 경제의 길목을 계속 붙잡을 수 있는지 가르는 산업 재배치 선언이다.

청와대 및 정부, 대기업들은 결정적 '신호'를 받고 2000조원에 달하는 투자 판단을 내렸다. 바로 미국 거대 AI 기업들이 SK하이닉스에 대한 '투자 제안' 때문이었다.

로이터 등에 따르면 엔비디아, 오픈AI 등 세계 최대 기술기업들이 지난해 연말부터 SK하이닉스에 전례 없는 제안을 들고 왔다.

메모리를 더 비싸게 사주겠다는 수준이 아니었다. SK하이닉스를 위해 생산라인을 직접 지어주고, 대당 수억달러짜리 ASML의 극자외선(EUV) 노광장비 값까지 대신 내주겠다는 것이었다. 고객이 특정 생산능력을 전용으로 확보하기 위해 설비 투자를 떠안는 방식은 파운드리에서는 익숙한 모델이었지만 메모리 업계에서는 전례가 없었다.

최태원 SK그룹 회장은 이를 대한민국에 전례없는 기회로 인식했고 재계와 정부에 제안의 일부를 공유하고 각종 규제 해소를 위해 설득을 시작했다. 이후 반년이 안 돼 무려 4755조원에 달하는 종합 패키지 투자 계획을 발표했다.

이 장면은 지금 AI 시장에서 벌어지는 권력 역전을 압축한다. 오랫동안 반도체, 특히 메모리는 '사는 쪽'이 칼자루를 쥐는 시장이었다. 범용 D램과 낸드는 만들어 놓고 시장에 파는 물건이었고, 가격 협상의 주도권은 구매자에게 있었다.

그러나 데이터 훈련용 AI 폭발로 HBM(고대역폭메모리) 수요가 급증한데 이어 AI 판도가 '추론'으로 넘어가며 기존 D램 수요마저 폭발하면서 구도가 뒤집혔다. SK하이닉스의 가용 생산능력은 사실상 제로다. 팔 물건이 없으니 사려는 쪽이 줄을 서서 공장을 지어주겠다고 나선 것이다.

그동안 AI 붐의 중심은 엔비디아 GPU 확보였다. 기업들은 수십억달러를 들여 연산 능력을 선점했다. 그런데 2025년 후반부터 반도체 산업의 무게중심이 조용히 이동하기 시작했다. 엔진의 출력이 아니라 연료가 엔진에 닿는 속도가 한계를 결정하는 국면으로 넘어간 것이다.

실리콘밸리에서는 아무리 강한 GPU를 쌓아도 데이터를 제때 먹여주지 못하면 그 GPU는 멈춰 서서 기다린다는 것을 발견했다.

HBM은 GPU 바로 옆에 물리적으로 붙어 데이터를 초고속으로 공급해 프로세서를 쉬지 않게 만드는 부품이다. 모델이 커지고 컨텍스트가 길어지고 멀티모달과 실시간 추론이 늘어날수록, 가속기 옆에 즉시 대기시켜야 하는 데이터의 양이 함께 불어난다. 병목이 GPU에서 그 GPU를 먹여 살리는 메모리로 넘어간 이유다.

수요가 복리로 늘어나는 구조도 여기에 겹친다. 엔비디아의 AI 가속기는 세대를 거듭할수록 칩 한 장에 얹는 HBM 스택의 수가 늘어난다. 차세대 베라 루빈(Vera Rubin) 계열로 넘어가면 칩당 적층 메모리 요구량이 현 세대보다 더 커진다.

GPU가 한 장 팔릴 때마다 그 옆에 들어가는 메모리의 절대량 자체가 불어나는 셈이다. SK하이닉스는 이미 12단 HBM4E 샘플을 고객사에 공급하기 시작했다. 가속기 출하량이 늘고, 가속기 한 장당 메모리 탑재량도 늘어나는 두 곡선이 동시에 올라가니, 메모리 수요는 GPU 수요보다 가파르게 휜다.

숫자가 이 전환을 증명한다. 구글, 아마존, 마이크로소프트, 메타 등 4대 하이퍼스케일러의 2026년 설비투자(capex)는 합산 약 7,250억달러로, 전년(4,100억달러)보다 77% 늘었다. 파이낸셜타임즈(FT)가 1분기 실적을 집계한 수치다.

이 가운데 마이크로소프트 에이미 후드(Amy Hood) CFO는 올해 설비투자 1,900억달러 중 250억달러를 메모리와 부품 가격 상승 때문이라고 밝혔다. 심지어 메모리가 올해 하이퍼스케일러 데이터센터 지출에서 차지하는 비중은 30%로, 2023년의 약 4배에 이른다는 분석도 나온다. 연산이 아니라 그 연산을 먹이는 부품이 비용 구조를 흔들기 시작했다는 뜻이다.

수요는 더 가팔라진다. 시장조사기관 트렌드포스(TrendForce)는 2026년 메모리 수요가 전년 대비 또 한 차례 큰 폭으로 늘어날 전망했다. 하지만 문제는 공급이 그 속도를 따라잡지 못한다는 데 있다.

수조 개 파라미터 규모의 프런티어 모델 학습은 수천 개의 가속기에 걸쳐 진행되고, 수백만 사용자를 실시간으로 떠받치는 추론 역시 갈수록 메모리를 더 요구한다. 지속 메모리, 길어진 대화 맥락, AI 에이전트, 영상 생성, 멀티모달 추론은 하나같이 더 큰 메모리 용량을 전제로 한다.

삼성과 SK하이닉스는 이 공급 부족이 적어도 2027년까지 이어질 것이라고 경고했고, 최태원 SK그룹 회장은 부족 사태가 2030년까지 갈 수 있다고 내다봤다. 몇 분기로 끝날 수급 문제가 아니라, 수년짜리 구조적 병목이라는 진단이다.

실제 최태원 SK그룹 회장은 이날 ‘대한민국 대도약 3대 메가프로젝트 국민보고회’에서 “AI 데이터센터 프로젝트에 약 1000조원, 반도체 공급 확장 프로젝트에 1100조원을 계획하고 있다”고 발표하며 “메모리 반도체 수요는 앞으로도 계속 공급 부족에 시달릴 것이다. 지나친 공급 부족은 높은 가격 상승과 더불어 미래 시장을 축소시킬 수 있다는 우려가 있다”고 배경을 설명했다.

AI 수요 폭증은 메모리 기업의 위상을 통째로 바꿔놨다. 지난 10년 사이 전체 반도체 산업 매출에서 메모리가 차지하는 비중은 28%에서 52%로 뛰었다.

리서치 기업 CLSA(Credit Lyonnais Securities Asia)가 한국 반도체 섹터를 분석하며 제시한 수치로, AI 인프라 확장이 메모리를 산업의 변방에서 중심으로 끌어올렸다는 뜻이다. CLSA는 이 부족이 길어질수록 삼성전자와 SK하이닉스가 최대 수혜자가 된다고 못 박았다.

SK하이닉스는 2025년 글로벌 HBM 시장의 61%를 차지했다. 삼성전자가 17%, 마이크론이 21%다. SK하이닉스는 2023년 메모리 가격 폭락으로 연간 7조7,300억원의 영업손실을 보면서도 HBM 투자를 멈추지 않았고, 삼성이 HBM3E 수율과 인증 지연으로 엔비디아 대형 물량을 놓치는 사이 격차를 벌렸다.

수익성이 이를 뒷받침한다. 삼성전자 반도체 부문은 지난 2026년 1분기 영업이익 53조7,000억원을 거뒀는데, 이는 전사 분기 이익의 약 94%에 해당한다. SK하이닉스는 같은 분기 매출 52조6,000억원, 영업이익 37조6,000억원으로 사상 최대 실적을 새로 썼다. 두 회사의 이익이 이제 메모리, 그중에서도 HBM 한 곳에서 나온다는 뜻이다.

시장은 이를 즉각 가격에 반영했다. SK하이닉스는 5월 말 시가총액 1조달러를 돌파했다. 연초 대비 주가가 약 250% 뛴 결과다. 삼성전자는 그보다 수주 앞서 같은 문턱을 넘었고, 그 결과 한국은 미국 밖에서 시총 1조달러 기업을 둘 이상 보유한 첫 나라가 됐다.

6월에는 SK하이닉스가 삼성전자를 제치고 코스피 시총 1위에 올랐다. 삼성이 코스피 정상을 내준 것은 2000년 11월 이후 처음이다. 삼성, SK하이닉스, 마이크론 세 곳의 합산 시총은 약 4.1조달러로, 일본 GDP에 맞먹는 수준까지 커졌다.

투자자들이 이들을 더 이상 경기 변동을 타는 전자업체가 아니라 AI 인프라의 핵심 공급자로 다시 값매김하고 있다는 신호다.

SK하이닉스는 이 위상을 자본으로 확장하는 중이다. 지난 3월에는 ASML EUV 장비를 약 11조9,500억원(약 79억달러)어치, 2027년까지 약 30대 발주했다. ASML 고객이 공개한 단일 발주로는 사상 최대 규모다. 여기에 최대 290억달러 조달을 목표로 한 미국 나스닥 상장도 추진하고 있다. 모두 AI 메모리 생산능력을 키우기 위한 실탄이다.

메모리 공급 부족은 어느 날 갑자기 하늘에서 떨어진 사건이 아니다. HBM의 제조 난도도, 추론 수요의 성격도, 메모리 업계의 증설 주기도 모두 공개된 정보였다. 그런데도 빅테크와 월가, 심지어 메모리를 만드는 당사자들까지 이 병목을 늦게 알아챘다.

이유는 단순하다. 세계는 잘못된 부품을 잘못된 사고틀로 바라보고 있었다.

이 같은 착시 현상은 GPU가 모든 시선을 빨아들였다는 데서 왔다. AI 붐은 엔비디아와 젠슨 황 CEO가 빨아들였고 희소하고 비싸고 화려한 물건은 GPU와 그것을 위탁 생산하는 TSMC 뿐이라는 인식이 생겼다. 엔비디아와 TSMC 주가는 지난 2년간 폭등했다.

2025년 하반기부터 경쟁은 연산 능력을 누가 먼저 확보하느냐의 싸움으로 규정됐고, 메모리는 그 GPU에 딸려 오는 부속으로 취급됐다. HBM은 물리적으로도 GPU 패키지 안에 숨어 있어 눈에 잘 띄지 않았다. 모두가 엔진의 출력을 셀 때, 그 엔진에 연료를 밀어 넣는 부품을 따로 세는 사람은 드물었다.

또 30년 묵은 고정관념과 메모리 사이클에 대한 뼈아픈 경험이 메모리 공급 부족을 과소평가하는 계기가 됐다. D램과 낸드는 '산업의 쌀'이라 평가받았지만 전형적 경기순환재였다. 쌀이란 평가는 꼭 필요한 주식이란 뜻도 있지만 그만큼 흔하고 싸다는 중의적 표현이었다.

호황에 증설하고 공급 과잉으로 무너지는 사이클을 수십 년 반복했기 때문에 업계의 분석 장치 전체가 구조적 희소성이 아니라 가격 주기를 예측하도록 맞춰져 있었다. 메모리는 자본만 충분히 넣으면 공급이 무한히 늘어나는, 수요를 뒤따르는 종속 변수로 여겨졌다.

SK하이닉스는 불과 3년전인 지난 2023년, 7조원대 영업손실을 기록했다. 천문학적 적자를 내고 그룹의 생존 자금을 지원받을 수밖에 없던 메모리 업체가 2년 뒤 세계 경제의 길목을 쥔다는 시나리오를 쉽게 상상할 수 없었다. 게다가 공급자들은 과거 불황에 데인 기억 때문에 선제 증설을 자제했다. 사이클의 교훈으로 얻은 규율이, 이번 부족의 씨앗이 된 것이다.

여기에 HBM을 그냥 빠른 D램으로 오해한 기술적 오독도 원인이 됐다. HBM은 범용 D램에 고속 차선을 깐 물건이 아니다. 다이를 수직으로 쌓고 실리콘관통전극(TSV)으로 잇고 정밀 본딩과 첨단 패키징을 거쳐야 하며, 수율은 낮고 그 생산능력은 일반 D램 라인과 호환되지 않는다.

HBM으로 돌린 웨이퍼 한 장은 범용 D램 생산에서 그대로 빠진다. 진짜 벽은 앞단의 노광이 아니라 뒷단의 패키징에 있었고, 이 백엔드 생산능력은 느리고 덩어리째 움직인다. 시장은 존재하지도 않는 빠른 차선을 가정했다.

가장 결정적인 오판은 수요의 형태가 바뀌었다는 점을 알지 못했다. 초기 스케일링 논의는 학습 중심, 연산량 중심이었고 화두는 언제나 더 많은 연산능력(컴퓨트 파워)였다. 그러나 2025년부터 실제로 폭발한 수요는 수백만 사용자를 향한 대규모 추론, 길어진 컨텍스트, AI 에이전트, 멀티모달이었고, 이것들은 연산이 아니라 메모리 대역폭과 용량에 묶이는 작업이다.

컴퓨터 구조에서 메모리 월(memory wall)은 오래전부터 알려진 개념이었지만, 기술적 각주로만 다뤄졌을 뿐 거시적이고 지정학적인 힘으로 모형화되지 않았다. 사람들은 틀린 축을 측정하고 있었다.

가속기 출하량이 늘고, 가속기 한 장당 HBM 스택 수까지 세대마다 늘어나니 메모리 수요는 두 지수의 곱으로 휘어 올랐다. 한 곡선만 연장한 예측은 그 곱 앞에서 모조리 빗나갔다.

오픈AI의 스타게이트(Stargate)가 삼성과 SK하이닉스에 월 90만 장 규모의 D램 웨이퍼 공급을 요구하며 그 수요가 전 세계 D램 생산능력의 35~40%에 달한다는 사실이 드러났을 때, 비로소 시장은 자신이 무엇을 놓쳤는지 깨달았다.

이 실패는 단순한 예측 오류가 아니라 AI 경쟁을 읽는 방식 자체의 결함을 드러낸다. 세계는 화려한 연산으로 판세를 읽었지, 병목이 어디로 이동하는지를 흐름으로 읽지 않았다.

병목은 언제나 가장 느리게 증설되는 지점으로 옮겨가고 그 이동을 먼저 읽는 쪽이 다음 판을 가져간다. 그리고 여기에 한국을 향한 고정관념과 코리아 디스카운트가 눈을 가리고 판단을 흐리게 했다. 그 길목을 손에 쥔 한국조차 오랫동안 SK하이닉스와 삼성을 경기를 타는 수출 기업으로만 값매겼다.

병목을 소유한 나라가 그것이 병목인 줄을 가장 늦게까지 몰랐다. 한국의 어떤 증권사 애널리스트도 불과 5개월 전인 2026년 초까지도 삼성전자와 SK하이닉스의 주가 예측을 하지 못했다.

시가총액과 투자 기회의 이면에는 수년이 걸려야 풀릴 더 큰 문제가 있다.

EUV 장비 한 대를 들이는 데도 시간이 걸리고, 새 팹이 가동에 들어가기까지는 더 오래 걸린다. SK하이닉스의 용인 클러스터 1차 팹은 2027년에야 완공된다. 수요는 분기 단위로 튀는데 공급은 연 단위로 움직인다.

하이퍼스케일러들이 3~5년짜리 장기 계약으로도 모자라 SK하이닉스의 EUV 값을 대신 내고 라인을 지어주겠다고 나선 배경이 여기에 있다. 돈으로 시간을 사려는 시도이고, 동시에 이 부족이 단기간에 해소되지 않는다는 사실을 시장 전체가 인정한 것이다.

실제 골드만삭스는 2026년 D램 공급 부족 규모를 전체 수요의 4.9%로 상향하며 15년 만의 최악이라고 진단했다. 부족이 길어지자 주요 AI 고객들은 다년 구속 계약을 맺고 선수금을 걸어 물량을 미리 잠그고 있다. 칩스(CHIPS)법에 묶인 미국 내 신규 생산능력은 2028년에야 양산 규모에 이를 전망이라, 그 사이의 공백을 메울 길이 마땅치 않다.

문제는 전체 메모리 부족 현상으로 까지 이어졌다는 점이다. 3사가 한정된 웨이퍼를 마진이 큰 HBM 라인으로 돌리면서 범용 D램과 소비자용 RAM 공급까지 함께 조여든다.

톰스하드웨어(Tom's Hardware) 인용 기준으로 삼성전자, SK하이닉스, 마이크론 등 세 제조사 합산 생산의 약 93%가 이미 AI용 메모리 제품으로 향하고 있다. 한 부품의 병목이 데이터센터를 넘어 PC와 서버 시장 전반의 가격을 끌어올리는 단계로 들어선 것이다.

한국은 지금 AI 경제의 길목을 쥐고 있다.

HBM이라는 병목을 통해 빅테크가 공장을 지어주겠다고 줄을 서는, 메모리 산업 역사상 한 번도 없던 레버리지를 손에 넣었다.

그러나 그 길목은 공급망의 길목이지 이 게임을 판가름하는 '지능'의 길목이 아니다. SK하이닉스가 쥔 가격 결정력은 공급자의 가격 결정력이지, 지능의 값을 매기는 자의 가격 결정력이 아니다.

더밀크가 줄곧 짚어온 토큰 소비자와 토큰 설계자의 구분이 여기서 다시 작동한다. 한국은 AI의 연료를 설계하고 판다. 그러나 엔진(엔비디아 GPU와 빅테크 자체 실리콘)과 그 위를 달리는 도로(AI 능력과 지능의 가격)는 여전히 남의 것이다. 메모리 위로 쌓인 가치는 엔비디아와 모델 기업들이 가져간다.

무시할 수 없는 사실은 메모리 패권은 길든 짧든 결국 사이클을 탈 수밖에 없다. 메모리는 역사적으로 호황 끝에 공급 과잉으로 무너져 온 산업이고, 한국의 과거 메모리 불황은 모두 정점에서 대규모 증설을 쏟아부은 직후에 시작됐다. 4,755조원을 슈퍼사이클의 꼭대기에서 쏟아붓는 것은 '지금은' 바른 결정으로 평가받겠지만 '언젠가는' 부담이 될 수밖에 없는 설비 투자 규모다.

구글, 아마존, 메타, 마이크로소프트 등 하이퍼스케일러들은 엔비디아 의존을 줄이려 자체 가속기를 키우며 공급선을 다변화하고 있고, 마이크론은 워싱턴의 온쇼어링 드라이브를 등에 업는다. 삼성이 HBM4 양산에 성공하면 SK하이닉스의 61% 점유율도 50%대로 내려갈 수 있다.

한국은 한 세대에 한 번 올까 말까 한 레버리지와 자본을 동시에 손에 쥐었지만, 그것을 웨이퍼 증설로만 환산하면 다음 사이클의 부담으로 돌아온다.

4,755조원은 감가상각되는 생산능력이 아니라 구조적 위치를 사들이는 데 쓰여야 한다. 고객을 묶어 두는 맞춤형 HBM 공동설계, 첨단 패키징에서의 통제력, 그리고 궁극적으로 지능 계층에 대한 지분을 만들어내는 방향이다.

빅테크가 공장을 지어주겠다고 줄을 선 지금이, 단순 공급자에서 설계자의 자리로 올라설 수 있는 유일한 협상 카드다.

한국은 지금 AI 경제의 연료를 쥐었다. 하지만 엔진은 엔비디아와 빅테크가 만들고, 도로는 모델 기업들이 깐다. 이번 레버리지를 설계자의 자리로 바꾸지 못하면 한국은 AI 경제에서 가장 비싼 주유소를 가진 나라로 남을 것이다.

더밀크 기업회원이 되시면 한국의 '토큰 이코노미' 호황을 예견한 리포트를 무료로 받으실 수 있습니다.