쿠다

딥시크(DeepSeek)의 등장으로 AI 투자 지형도가 크게 변화하고 있다. 저비용 고효율 AI 모델의 출현으로 AI 기업들의 경쟁 구도가 재편되고 있는 것이다. 기존에는 빅테크를 비롯해 오픈AI와 구글 딥마인드, 그리고 앤트로픽 등 대형 AI 기업들이 GPT-4와 같은 대형언어모델(LLM)의 개발을 주도하며 높은 연산 비용과 독점적 데이터 접근성으로 시장을 지배했다. 이는 결과적으로 AI 학습에 최적화된 엔비디아(NVDA)의 H100과 같은 고성능 GPU에 대한 의존도를 높였고 엔비디아가 AI 인프라 시장을 독점할 수 있도록 했다. 엔비디아는 AI 산업이 폭발적으로 성장하는 과정에서 GPU 하드웨어부터 소프트웨어 생태계까지 수직적으로 장악했다. AI 모델 훈련과 추론에는 대량의 행렬 연산이 필요하며 이는 병렬 연산에 특화된 GPU가 필요했기 때문이다. 엔비디아의 A100과 H100과 같은 GPU는 초거대 AI 모델 훈련에 필수적인 칩으로 AI 인프라 시장의 폭발적인 성장과 함께 시장을 빠르게 지배하기 시작했다. 엔비디아는 AI 소프트웨어 플랫폼도 빠르게 선점했다. 쿠다(CUDA)라는 독점 소프트웨어 프레임워크를 통해 AI 기업들이 엔비디아 GPU를 사용할 수 밖에 없는 대체불가의 강력한 진입장벽을 만든 것이다. 쿠다는 독점적 소프트웨어 환경이기 때문에 다른 GPU는 AI 모델 학습에서 엔비디아를 따라가기 힘들었다. 또한 NV링크, NV스위치, 인피니밴드(InfiniBand) 네트워크 기술을 활용해 GPU 간 초고속 데이터 전송을 지원, AI 훈련 성능을 극대화했다. 이는 결과적으로 엔디아가 AI 인프라 시장에 필수적인 하드웨어와 소프트웨어, 그리고 네트워크까지 모두 수직적으로 장악하는 결과를 낳게했다. 딥시크는 이런 AI 산업의 패러다임을 송두리째 흔들어놓고 있다. 저비용 고효율 AI 모델이 등장하면서 AI 시장의 경쟁구도가 수직적 독점 체제에서 다변화된 경쟁체제로 전환되고 있는 것이다.

“코스모스(Cosmos)는 미래에 다가올 거대한 로봇 산업의 출발점입니다.”젠슨 황 엔비디아 CEO는 7일(현지시각) 라스베이거스 퐁텐블로 호텔에서 진행한 미디어 대상 질의응답 세션에서 “코스모스를 통해 로봇공학이 실현될 것”이라며 이같이 말했다. 코스모스는 황 CEO가 전날 CES2025 기조연설에서 발표한 ‘물리(physical) AI’ 개발 플랫폼이다. 물리 AI 개발에 활용하는 기초 모델(foundation model)인 ‘코스모스 WFM(월드 파운데이션 모델)’, 비디오 처리 파이프라인 등으로 구성됐다. 물리 AI란 로봇, 자율주행차처럼 물리 법칙의 적용을 받는 환경에 사용하기 위한 AI 시스템을 말한다. 오픈AI가 챗GPT를 선보이며 생성형 AI 혁명을 일으킨 것처럼 코스모스로 로봇·자율주행차 산업을 선도한다는 비전이다. 

초거대 AI를 움직이는 힘은 어디에서 올까? IBM 왓슨의 역사적인 제퍼디 우승, 이세돌 9단과의 대결에서 승리한 알파고, 오픈AI의 챗GPT까지 모든 AI 혁신은 AI 반도체 칩이 있기에 가능했다. 알파고의 딥러닝 기술을 구현하는 데 1920개의 CPU와 280개의 GPU가 사용됐다. 알파고 출현 이후 7년 뒤 등장한 '챗GPT'에는 1만개가 넘는 엔비디아의 'A100' GPU가 사용됐다. AI칩은 인공지능 시스템의 개발과 배포에 사용되는 특수 컴퓨팅 하드웨어를 말한다. AI 작업을 처리하도록 설계된 특수 집적 회로로 그래픽 처리 장치(GPU), 필드 프로그래머블 게이트 어레이(FPGA), 주문형 반도체(ASIC) 모두 AI 칩이다. 생성AI의 성장세에 힘입어 AI칩 시장도 가파르게 성장하고 있다. 시장 조사 업체 가트너에 따르면 AI 반도체 매출은 예측 기간 동안 두 자릿수 성장을 지속해 2024년에는 25.6% 증가한 671억 달러(약 90조 9070억 원)에 달한다. 오는 2027년에는 AI칩 매출이 2023년 시장 규모의 두 배 이상인 1194억 달러(약 161조 7631억 원)에 달할 전망이다. 가트너의 분석가이자 부사장인 앨런 프리스틀리는 "생성AI의 발전과 데이터 센터, 엣지 인프라 및 엔드포인트 디바이스에서 광범위한 AI 기반 애플리케이션의 사용이 증가함에 따라 고성능 그래픽 처리 장치(GPU)와 최적화된 반도체 디바이스가 필요하다. 이것이 AI칩의 생산과 배포를 주도하고 있다"고 설명했다. 가트너는 "생성AI 대규모 언어 모델 개발이 데이터 센터에서의 고성능 GPU 기반 서버에 대한 수요 증가를 이끌고 있다"고 밝혔다. 또한 2027년까지 AI 기술을 데이터센터 애플리케이션에 통합하면 워크로드 가속기를 포함한 새로운 서버의 20% 이상이 탄생할 것으로 예상했다. 맞춤형 AI칩 시장도 확대될 것으로 보인다. 프리스틀리 부사장은 "많은 조직에서 광범위한 AI 기반 워크로드, 특히 생성 AI 기술을 기반으로 하는 워크로드에 대해 현재 주요 칩 아키텍처인 개별 GPU를 대체할 맞춤형 AI칩의 대규모 배포가 이루어질 것"이라고 밝혔다. 

챗GPT가 촉발한 ‘생성 AI(인공지능) 혁명’의 거대한 물결이 반도체 시장도 예외 없이 흔들고 있다. 지난 2012년 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 모두를 놀라게 했다. AI 연구에 불을 붙인 알렉스넷은 엔비디아의 게임용 GPU(그래픽처리장치) 칩을 이용해 개발된 CNN(Convolutional Neural Network, 합성곱신경망) 아키텍처였다. 새 알고리듬(CNN)이 제공하는 화상 인식 기술이 주는 가능성에 매료된 산업계는 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들게 됐다. 대형 클라우드 회사들과 미국·영국 스타트업들이 수천억 원이 넘는 투자를 받았고, 침체해 있던 반도체 생태계에 활력이 생겼다. 이런 반도체의 주요 사용처로서는 자율주행차를 포함한 이미지·영상 인식 분야가 꼽혔다. 대표적인 회사들로는 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등이 있으며, 주요 클라우드 서비스회사들 역시 다 자체적으로 AI 반도체를 개발해 왔다.이들 회사들이 경쟁력으로 주장하는 내용은 “엔비디아의 GPU는 원래 게임 소프트웨어를 위해 개발된 것으로서 AI는 나중에 우연히 발견된 사용 분야다. 처음부터 AI만을 목표로 설계해 최적화한다면 훨씬 적은 전력을 사용하는 고성능의 AI 반도체를 만들 수 있다”는 것이다. 이는 상당히 설득력 있는 주장이었다. 이들은 그들의 주장대로 저전력 고성능의 AI 반도체를 발표해 왔다. 그런데 이런 AI 반도체 회사들이 지금 흔들리고 있다. 발단은 13개월 전에 발표된 챗GPT가 초고속으로 사용자를 늘려가며, 벌써 10억 명이 사용하는 서비스가 됐다는 점이다. 챗GPT는 트랜스포머라는 새로운 알고리듬을 사용한다. 핵심은 이 알고리듬은 물론, 챗GPT 비슷한 AI 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다는 것이다. 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어졌다. 이전 알고리듬에만 최적화돼 있어 수년간 수천억 원의 투자를 하면서 개발해 온 반도체 설계방향이 거대한 유턴을 해야만 하는 상황이 됐다. 결과적으로 자금 사정이 어려워진 회사들도 생겨나게 됐다. 그렇다면 엔비디아는 이러한 거대한 변화에 어떻게 대응하면서 성공할 수 있었을까?