[단독] “AI는 메모리 70%, 한국의 무기”… 손영권이 짚은 생존 전략

지난 1983년 미국 매사추세츠주 케임브리지. MIT 경영대학원을 졸업한 만 26세 청년 손영권(Young Sohn)은 5000킬로미터 떨어진 캘리포니아주에서의 새로운 삶을 앞두고 있었다.  

1978년 퍼스널 컴퓨터(PC) 시대를 연 CPU(중앙처리장치) ‘8086’을 출시하며 빠르게 성장하던 인텔에 입사해 반도체 분야에서 커리어를 시작한 것이다. 주무대를 실리콘밸리로 옮긴 그는 인텔 이후 퀀텀, 애질런트 반도체(아바고, 현 브로드컴) 사장, Arm 및 케이던스 이사회 멤버, 삼성전자 CSO(최고전략책임자) 사장 등 핵심 반도체 기업의 리더십을 거치며 업계를 이끌었다. 

놀라운 건 40년이 지난 현재도 그의 열정이 식지 않았다는 점이다. 지난달 24일(현지시각) 실리콘밸리 마운틴뷰에서 열린 ‘K-글로벌(K-Global@Silicon Valley)’ 행사장에서 만난 손영권 하만(HARMAN) 이사회 의장의 발언에는 미래에 대한 강한 기대감이 가득했다. 

무엇이 기술 업계에서 산전수전 겪은 그를 이렇게 들뜨게 만들었을까?

반도체 전문가이자 베테랑 경영인, 인텔의 립 부탄 CEO와 함께 실리콘밸리 VC(벤처캐피털) 월든 카탈리스트(Walden Catalyst)를 설립해 투자자로도 활동해 온 손 의장이 발견한 시그널은 무엇일까?

핵심은 역시 AI였다. 손 의장은 AI 시대를 ‘거대한 쓰나미’에 비유하며 이 물결에 어떻게 올라타느냐에 따라 새로운 승자와 패자가 갈릴 것이라고 단언했다. AI는 단순히 지나가는 유행이 아니며 산업 지형을 완전히 바꿀 거대한 파도라는 것이다. 과거 PC 시대 마이크로소프트, 모바일 시대 삼성이 승자가 된 반면, 노키아, 야후처럼 변화의 물결을 놓친 기업은 뒤처졌다는 걸 기억해야 한다고 했다. 

현재 AI 시대 초기 인프라 경쟁은 엔비디아가 주도하고 있지만, 이는 시작에 불과하다는 게 그의 진단이다. 대형 AI 데이터센터가 10만 개, 나아가 100만 개의 GPU(그래픽처리장치)를 필요로 하는 기가와트 규모로 확장되고 있어 한국에도 기회가 있다는 것이다.  

손 의장은 “한국은 기초 연구 역량을 강화하고, 스타트업을 넘어 ‘스케일업(Scale-up, 빠르게 성장하는 기업을 의미)’을 육성하는 집중적인 전략을 펴야 한다”며 “AI의 핵심은 데이터와 메모리다. 메모리 반도체 강국인 한국이 중요한 역할을 할 수 있다.

현재 엔비디아가 판매하는 4만달러짜리 모듈을 열어보면 내용물의 70%가 실제로 메모리다. 한국산 메모리를 높은 마진으로 판매하고 있는 셈”이라고 강조했다. 

구체적으로는 메모리와 로직, GPU를 통합하는 새로운 기회를 적극적으로 모색하고, 모든 것을 직접 개발하려는 ‘NIH(Not Invented Here)’ 사고방식에서 벗어나야 한다고 했다. 하이퍼스케일러 등 글로벌 기업과의 강력한 파트너십을 구축해야 하며 싱가포르의 GIC, 테마섹처럼 한국도 적극적인 글로벌 교류 및 과감한 투자를 통해 변화의 흐름을 선제적으로 파악하고, 스케일업 기업을 길러내야 한다고 제언했다.

AI 데이터센터 확장에 따라 폭증할 에너지 수요에도 주목했다. AI 시대 경쟁력 확보를 위해서는 안정적인 에너지원 창출이 선결되어야 한다는 것이다. 손 의장은 “원자력과 재생에너지 분야에서 한국이 가진 강점을 활용해야 한다”며 “한국의 원자력 우위는 우리가 활용해야 할 자산”이라고 했다.

다음은 손 의장과의 인터뷰 전문이다.

Q: 키노트에서 엔비디아가 과거 강력했던 인텔 같다는 발언이 인상 깊었다. 엔비디아의 독주가 계속될 것이라고 보는가? 그 이유는 무엇인가?

A: 엔비디아의 독주를 이끄는 가장 큰 힘은 문화에 있다. 과거 인텔처럼 강력한 목표 의식을 가진 문화가 회사를 이끌고 있다. 여기에 더해 제품 출시 속도는 경쟁사가 도저히 따라잡을 수 없는 수준이다. 매년 혁신적인 신제품을 쏟아내기 때문에 경쟁사들이 추격할 틈을 주지 않는다.

또 다른 핵심 요인은 창업자인 젠슨 황 CEO가 모든 것을 직접 챙기며 회사 전체의 지식을 완벽하게 파악하고 있다는 점이다. 이는 복잡한 의사결정 과정을 단순화하고 실행 속도를 극단적으로 높이는 결과로 이어진다. 

현재 수많은 스타트업이 도전하고 있지만 엔비디아의 아성에 근접한 곳은 없으며 AMD 역시 소프트웨어 생태계에 대한 투자가 부족해 하드웨어만으로는 격차를 좁히지 못하고 있다.

Q: 엔비디아의 독점적 지위에 대한 시장의 우려도 있다. 이러한 리더십이 장기적으로도 유효할 것이라고 보는가?

A: 장기적인 미래는 누구도 단언할 수 없지만, 엔비디아의 단기적 미래는 ‘아주 확실하다’고 본다. 많은 사람들이 엔비디아를 단순히 칩 회사로 오해하지만, 이는 큰 착각이다. 엔비디아는 이미 칩을 넘어 시스템, 소프트웨어, 그리고 비즈니스 모델을 아우르는 종합 플랫폼 회사로 진화했다.

그들은 로보틱스, 시뮬레이션, 자동차 등 수많은 수직 산업(vertical market)으로 공격적인 확장을 계속하고 있다. 지금 확장하지 않으면 장기적으로 시스코(Cisco)처럼 도태될 수 있다는 사실을 스스로 잘 알기에 더 필사적으로 사업을 다각화하는 것이다. 

특히 하드웨어의 강력함보다 더 무서운 것은 소프트웨어 생태계다. 쿠다(CUDA) 플랫폼과 물리 AI 시뮬레이션, 신약 개발 등에 사용되는 방대한 파운데이션 모델 라이브러리는 경쟁사가 넘볼 수 없는 강력한 해자(moat) 역할을 하고 있다.

Q: 최근 오픈AI에 대한 엔비디아의 투자가 일종의 디스카운트라고 언급했다. 과거 인텔 전략처럼 고객을 묶어두는 방식이라고 봐야 할까?

A: 정확하다. 엔비디아는 10억달러(약 1조4000억원) 단위의 막대한 현금을 벌어들이고 있기 때문에 이 자금력을 활용해 고객을 묶어두는(lock-in) 강력한 무기로 활용하고 있다. 

최대 1000억달러(약 140조원) 규모 오픈AI 투자가 대표적인 예다. 가령 고객사가 500억달러(약 70조원) 규모의 데이터센터를 짓는다고 가정하자. 엔비디아는 여기에 100억달러(약 14조원)를 지원해준다. 

이는 사실상 30%에 가까운 파격적인 할인을 제공해 자사 생태계에 묶어두는 것과 같다. (500억달러 데이터센터 구축 시 GPU 구매에 필요한 비용이 약 350억달러 이므로 350억달러의 약 30%) 

이는 과거 인텔이 컴팩(Compaq, 2002년 HP에 인수), 델과 같은 PC 제조사에 AMD 칩을 쓰지 않는 조건으로 리베이트를 제공했던 ‘인텔 인사이드’ 프로그램과 완벽하게 동일한 전략이다. 기술적 우위, 소프트웨어 생태계, 자금력을 이용한 비즈니스 전략까지 총동원하고 있다.

Q: AI라는 거대한 파도 속에서 한국 기업들이 기회를 잡으려면 ‘밸류체인’을 하나씩 격파할 필요가 있다고 조언을 했다. 이 전략을 좀 더 구체적으로 설명해달라.

A: 가장 중요한 것은 ‘우리가 잘하는 것에 집중하는 것’이다. 엔비디아처럼 모든 것을 다 잘하려고 해서는 결코 이길 수 없다. 

과거 삼성전자의 사례가 좋은 교훈이다. 삼성은 자체 OS(운영체제)를 고집하지 않고 과감히 포기한 뒤 당시 최고의 OS였던 안드로이드를 채택했다. 그 결과 자신의 강점인 하드웨어, 제조, 마케팅에 집중해 글로벌 스마트폰 시장의 강자로 우뚝 설 수 있었다.

AI 시대의 전략도 마찬가지다. 전체 AI 밸류체인에서 우리가 세계 최고가 될 수 있는 특정 영역, 즉 하나의 레이어(layer)를 정해 그 분야에서 월드 클래스가 돼야 한다. 그리고 나머지 부분은 세계 최고 수준의 파트너 기술을 가져와 결합함으로써 전체적인 완성도와 속도를 높이는 것이 현명한 접근법이다. 속도가 더 중요하다.

Q: AI 시대에는 데이터 보호와 독립성이 중요성하다고 강조했다. ‘컨피덴셜 컴퓨팅’과 ‘소버린 AI’ 개념은 구체적으로 무엇이며, 왜 중요한가?

A: AI 도입은 이제 피할 수 없는 필수가 됐지만, 여기에는 데이터 프라이버시라는 심각한 위험이 따른다. 한 국가의 국민 정보 전체가 해외 특정 기업이나 국가에 의해 통제되는 상황은 상상할 수 없는 국가적 위협이다. 그렇기 때문에 이를 보호하는 장치, 독립성이 중요한 것이다. 

이를 기술적으로 방어하는 핵심 개념이 바로 ‘컨피덴셜 컴퓨팅(Confidential Computing)’이다. 데이터가 처리되는 과정 중에도 암호화 상태를 유지해 누구도 내용을 들여다볼 수 없게 만드는 신뢰 기반의 컴퓨팅 환경을 의미한다. 

‘소버린 AI(Sovereign AI)’는 이보다 더 큰 국가적 전략 개념이다. 이는 자국의 데이터가 국경 내에 머물며 자국을 위해 쓰이도록 보장하는 것과 동시에, 외국의 AI 모델이 국내 여론이나 선거, 사회 분위기에 부당한 영향을 미치는 것을 막는 국방의 개념을 포함한다.

Q: AI 기술 혁신과 규제 사이의 균형을 맞추는 것은 전 세계적인 과제다. 한국이 참고할 만한 이상적인 모델이 있는가?

A: 혁신이 규제보다 항상 앞서 나가는 것은 보편적인 현상이다. 문제는 그 격차를 어떻게 줄이고 조화를 이루느냐다. 유럽은 규제가 너무 강해 혁신의 속도를 저해하는 문제가 있고, 반대로 미국은 규제가 거의 없어 속도는 빠르지만 다른 사회적 문제를 야기하기도 한다.

가장 중요한 원칙은 규제는 반드시 ‘지식이 있는 전문가’가 만들어야 한다는 점이다. 기술에 대한 이해가 없는 사람이 규제를 만들면 문제를 해결하기는커녕 더 큰 문제를 낳게 된다. 지식 기반 사회에서는 전문가가 정책 수립을 주도해야 부작용을 최소화하고 혁신과 안정을 모두 달성할 수 있다.

Q: AI 데이터센터로 인해 에너지 수요가 기하급수적으로 증가하고 있다. 이것이 왜 한국에 새로운 기회가 될 수 있다고 보는가?

A: 역사적으로 에너지 수요는 완만하게, 즉 선형적으로 증가해 왔다. 하지만 AI는 전례 없는 기하급수적인 수요 폭증을 일으키고 있다. 대규모 AI 데이터센터 하나가 필요로 하는 전력(약 1기가와트)은 미국 샌프란시스코 도시 전체 전력 소모량과 맞먹는다. 기존의 에너지 공급망으로는 이처럼 갑작스럽고 거대한 수요를 감당할 수 없다.

바로 이 거대한 문제가 새로운 기회의 문을 연다. 기존의 석유나 석탄과 같은 전통적인 방식으로는 해결이 불가능하기에 완전히 새로운 공급 방식이 필요해졌기 때문이다. 이는 결국 재생에너지, 그리고 결정적으로 원자력 에너지의 필요성을 극대화시킨다.

Q: 한국이 가진 조선업과 원자력 기술을 결합하는 아이디어를 제시했다. ‘소형모듈원자로(SMR)’ 같은 혁신이 구체적으로 어떤 기회를 창출할 수 있는가?

A: 한국은 세계 최고 수준의 조선업과 꾸준히 축적해 온 원자력 기술이라는 두 가지 강력한 자산을 보유하고 있다. 즉, 조선업의 대형 철강 구조물 제작 기술 및 엔지니어링 노하우를 원자력 기술과 결합하는 것이다.

조선업의 철강 기술 노하우와 소형모듈원자로(SMR) 기술을 합치면 ‘이동형 원자력 발전소(Portable Nuclear Power)’로 발전시킬 수 있다. 이렇게 만들어진 발전소를 전력이 대량으로 필요한 데이터센터에 바로 배치해 맞춤형으로 전력을 공급하는 식으로 새로운 비즈니스가 가능하다. 이는 데이터센터에 특화된 ‘에너지 혁신’ 시장을 창출하는 기회가 될 것이다.

Q: 미중 갈등과 같은 지정학적 요인은 한국의 에너지 및 제조업에 어떤 영향을 미칠 것으로 보나?

A: 현재의 미중 지정학적 갈등은 한국에 ‘월등한 기회’다. 과거 서구 시장에서 중국의 제조업과 경쟁하는 것은 매우 힘든 일이었지만, 이제 그 가장 큰 경쟁자가 사실상 배제됐다.

이제 서방 국가들은 핵심 기술과 제조업 분야에서 중국 대신 한국을 우선적인 파트너로 선호하고 있다. 이는 에너지, 조선업을 포함한 한국의 주력 산업에 엄청난 순풍으로 작용한다. 화웨이의 사례가 이를 명확히 보여준다. 서방 세계가 화웨이의 통신 장비나 칩을 사용하지 않으면서 삼성전자 같은 한국 기업이 직접적인 반사이익을 얻는 것처럼 이 기회는 기술·제조업 전반으로 확산될 것이다.

Q: 월든 카탈리스트는 어떤 분야에 집중적으로 투자하고 있는가? 투자 철학이 궁금하다.

A: 우리는 AI의 근간이 되는 ‘데이터 인프라스트럭처’ 분야에 매우 집중하고 있다. 구체적으로는 데이터를 생성하는 컴퓨팅, 데이터를 전송하는 네트워킹, 그리고 이 모든 것에 동력을 공급하는 전력 솔루션 분야가 핵심 투자 영역이다.

여기에 더해 AI 알고리즘, 미들웨어, 그리고 데이터의 품질을 검증하고 모델의 효율성을 높이는 소프트웨어 툴에도 투자한다. 특히 에너지 생성 자체보다는 생성된 에너지를 어떻게 하면 더 효율적으로 사용할 수 있을지에 대한 ‘에너지 효율화’ 기술에 많은 관심을 기울이고 있다.

Q: 여전히 많은 한국 기업들이 글로벌 진출, 특히 실리콘밸리 생태계 진입에 어려움을 겪고 있다. 이 격차를 메우기 위한 가장 현실적인 조언은 무엇인가?

A: 근본적인 문제는 한국에 앉아서 듣기만 하고 사업을 하려는 안일한 태도에 있다. 이는 엄청나게 느린 방식이다. 싱가포르의 국부펀드인 GIC나 테마섹을 보라. 그들은 실리콘밸리 현장에서 직접 미래 기술에 투자하며 누구보다 빠르게 흐름을 읽고 배운다. 

솔직히 지금 실리콘밸리에서 싱가포르 규모로 활발하게 활동하는 한국 국부펀드, 벤처캐피털이 있는가? 해결책은 간단하다. ‘현장’으로 가야 한다. 비유하자면, 지방에 살면서 서울의 정보를 얻으려 하지 말고 직접 서울로 가서 집을 사고, 투자하고, 학교를 보내야 하는 것과 같다. 

한국의 풍부한 자본을 활용해 실리콘밸리 현지 VC에 출자하고, 스타트업에 직접 투자하며 파트너십을 맺어야 한다. 생태계의 지식과 속도를 배우는 유일한 길은 직접 그 안에 뛰어드는 것뿐이다.

Q: 한국 정부가 추진하는 ‘AI 3강’ 목표를 달성하려면 어떤 과제가 가장 시급하다고 보나?

A: 미국, 중국 외에도 프랑스 같이 강력한 인재 풀을 바탕으로 막대한 투자를 하는 국가들이 있다. ‘세계 3강’이 되는 것은 쉽지 않은 목표다. 하지만 그럼에도 불구하고 한국의 강력한 대기업 기반, 우수한 인재들을 고려할 때 AI 선진국으로 도약하는 것이 불가능한 일은 아니라고 본다.

이를 위해 정부는 막대한 규모의 인프라 투자를 지원해야 한다. 현재 한국 데이터센터에 있는 GPU가 3만 개 수준인데, 이는 세계적 수준에 비하면 턱없이 부족하며 수십만 개 단위로 대폭 확장해야 한다. 

더 중요한 것은 인재다. 한국 인재에만 의존해서는 안 된다. 미국이 러시아, 이스라엘 등 전 세계 인재들을 받아들여 혁신을 이끌듯, 우리도 문을 활짝 열어야 한다. 최근 K-콘텐츠의 성공으로 한국에 살고 싶어 하는 ‘K-리빙’에 대한 매력도도 높아졌다. 이를 활용해 전 세계의 뛰어난 인재들을 한국으로 유치한다면 AI 강국으로의 도약은 한층 빨라질 것이다.

Q: AI가 일자리를 대체할 것이라는 우려 속에 특히 청년들의 커리어 고민이 깊다. 다음 세대에게 어떤 메시지를 전하고 싶은가?

A: 먼저 지금 젊은 세대가 겪는 어려움이 내가 사회생활을 시작할 때보다 ‘훨씬 더 힘들다’는 점을 인정한다. 과거에는 큰 회사에 들어가 배우며 성장하는 전통적인 경로가 있었지만, 이제는 대기업들이 신규 채용을 줄이면서 그 길이 막히고 있다.

이러한 구조적인 변화 속에서 젊은이들이 자신의 운명을 스스로 통제할 수 있는 가장 현실적인 길은 ‘창업’이다. 다만 창업을 하더라도 현명하게 해야 한다. 혼자 모든 것을 하려 하지 말고, 반드시 훌륭한 파트너를 찾아야 한다. 

그리고 사업을 하는 내내 ‘속도(Speed)’와 ‘규모(Scale)’라는 두 가지를 항상 최우선으로 생각해야 한다. 자금을 조달할 때도 단순히 돈만 빌려주는 은행보다는 돈과 함께 성장 속도를 높여줄 수 있는 전문 VC나 전략적 파트너와 함께하는 것이 절대적으로 유리하다. 

닫힌 기회의 문 앞에서 좌절하기보다, 전문가와 협력하고 속도와 규모를 극대화하는 전략적 창업을 통해 새로운 길을 개척해 나가라고 조언하고 싶다.