AI 가속기

'서사의 시대'는 끝났다. 이제 시장은 '실행을 증명'할 것을 요구한다. AI 인프라의 차세대 주자로 양대 축인 브로드컴(AVGO)와 오라클(ORCL)이 사상 최대의 실적을 발표했다. 숫자는 완벽했다. 브로드컴은 2025 회계연도 매출 640억 달러로 전년 대비 24%의 성장을 기록했고 AI 반도체 매출만 200억 달러로 65%의 성장을 기록했다. 향후 18개월 납품 예정인 주문 잔고만 730억 달러다. 오라클은 클라우드 인프라 매출이 52% 증가했고 미이행 계약 잔고(RPO)는 무려 1380억 달러를 달성했다.하지만 브로드컴 주가는 4.92% 하락했고, 오라클은 6개월 최저치로 급락했다. 시장의 요구에 완벽하게 부합하는 실적에도 주가는 급락했다. 이는 AI 관련 섹터 전반에 상당한 충격파를 보냈다. 무엇이 문제였을까? 이번 실적 발표가 던진 가장 중요한 신호는 AI 투자의 패러다임 전환이다. 2023년부터 2024년까지 시장은 "AI가 모든 것을 바꿀 것"이라는 서사(narrative)만으로 기업 가치를 정당화했다. 엔비디아와 같은 기업들은 기대와 실적이 부합했지만 많은 기업들이 미래 수익에 대한 확신 없이도 밸류에이션이 폭등했다. 하지만 2025년 말, 시장은 질문을 바꾸고 있다. 기업들이 하나같이 말하는 "AI 투자는 정말로 수익으로 전환되는가?"를 묻고 있다. 최근 월스트리트 애널리스트들이 이들의 주가 하락에 대해 입을 모아 지적한 'Show-Me Story'(실행 증명)'는 단순한 표현이 아니다. 시장은 이제 기대에서 실행, 그리고 증명의 스토리를 요구하고 있다.

AI 인프라 시장에 새로운 전선이 열렸다. 12월 2일(현지시각) 마벨 테크놀로지(MRVL)가 '빛의 반도체'라고 평가받는 광학 인터커넥트 스타트업인 셀레스티얼 AI 인수를 발표했다. 기본 금액 32억 5000만 달러에 성과 조건 충족 시 최대 55억 달러에 달하는 대형 거래다. 시장은 이번 거래가 단순한 기술 기업의 인수합병이 아니라는 의견이다. AI 인프라의 전장이 '연산'에서 '설계'로 그리고 '연결'로 확장되고 있다는 분석이다. 실제로 발표 직후 마벨의 주가는 시간외 거래에서 13% 급등했다. 2025년 들어 18% 하락하며 다른 AI 기업들과 비교해 크게 부진했던 주가가 단 하루 만에 반전된 것이다. 시장은 무엇을 읽은 것일까?

애플이 새로운 반도체 M5를 선보이며 ‘온디바이스 AI(On-device AI)’ 시대를 주도하겠다는 강력한 의지를 표명했다. 칩에 적용된 차세대 GPU(그래픽처리장치) 아키텍처를 볼 때 M5는 단순한 하드웨어 업데이트를 넘어 AI를 제품 전략 중심에 확고하게 자리 잡게 만든 중대한 이정표라는 게 업계 전문가들의 평가다. 애플은 15일(현지시각) 각 코어에 뉴럴 액셀러레이터(Neural Accelerator, 신경망 가속기)가 탑재된 차세대 칩인 M5를 선보였다. 조니 스루지 애플 하드웨어 기술 담당 수석 부사장은 “M5는 애플 실리콘의 AI 성능에서 다음 단계의 큰 도약을 이끌 것”이라며 “GPU에 뉴럴 가속기를 도입한 M5는 AI 워크로드를 크게 향상시킨다”고 설명했다. 애플은 이날 M5 칩을 탑재한 세 가지 새로운 제품 라인업도 선보였다. 강력한 성능으로 무장한 맥북 프로, 휴대용 AI 워크스테이션으로 재탄생한 아이패드 프로, 한 차원 높은 몰입감을 제공하는 애플 비전 프로가 그 주인공이다. 생성형 AI 분야에서 상대적으로 뒤처졌다는 평가를 받는 애플이 M5 칩과 프라이버시, 저지연성, 매끄러운 사용자 경험을 앞세운 온디바이스 AI를 통해 다시 부활할 수 있을지 업계의 시선이 쏠리고 있다.👉관련 기사: 애플, AI의 골든타임을 놓쳤다... WWDC 25에서 뒷전으로 밀려

“AI 칩 설계 분야는 여전히 혁신의 여지가 있습니다. 퓨리오사AI에 기회가 있다고 생각합니다.”백준호 퓨리오사AI 대표는 8일(현지시각) 뉴욕 브루클린 ‘글로벌 AI 프론티어랩(Global AI Frontier Lab)’에서 개최한 행사에서 “예측하기 어려운 AI 워크로드(workload, 처리 작업의 유형과 양)를 수용할 수 있는 효율적이고 유연한 ‘기반(foundation)’이 중요하다”며 이같이 말했다.

중국 리스크라는 부정적 촉매를 떨쳐낸 엔비디아의 기세가 무섭다. 엔비디아(NVDA)가 월요일(6월 30일, 현지시각) 종가 기준 157.99달러로 다시 한번 사상 최고치를 경신하며 시가총액 3조 8500억 달러를 기록했다. 이로써 엔비디아는 다시 한번 세계에서 가장 가치 있는 기업의 자리를 되찾았다.월가도 엔비디아의 이러한 추세에 동승하는 양상이다. 이런 가운데 루프캐피털의 아난다 바루아 애널리스트는 엔비디아 목표주가를 250달러로 상향 조정해 주목받고 있다. 이는 월스트리트에서 가장 높은 목표가로, 현재 주가 대비 127% 상승 여력과 시가총액 6조 달러 도달 가능성을 시사한다.시가총액 6조 달러는 전 세계 경제 규모와 비교해도 압도적인 수치다. 이는 영국의 연간 GDP(약 3.5조 달러)의 1.7배에 달하며, 인도(약 4.1조 달러)나 프랑스(약 3.1조 달러) 같은 주요 경제대국의 연간 경제 규모를 훨씬 웃도는 수준이다.이는 단일 기업이 한 국가 전체 경제의 몇 배에 달한다는 것을 의미하지만 바루아는 보고서에서 "수학적으로 계산해보면 충분히 가능하다"고 밝혔다. 그는 이를 가능케하는 요인으로 아마존, 마이크로소프트 등 하이퍼스케일러들의 AI 인프라 투자가 예상보다 훨씬 빠르게 증가할 것으로 전망했다.루프캐피털의 분석에 따르면, 현재 데이터센터 인프라의 약 15%를 차지하는 GPU와 AI 가속기 같은 비CPU 컴퓨팅 비중이 2028년까지 50~60%로 증가할 전망이다. 연구진은 "하이퍼스케일 및 AI 팩토리의 생성형 AI와 AI 가속기 컴퓨팅 지출만으로도 현재의 컴퓨팅 경제 구조를 기준으로 2028년까지 약 2조 달러에 달할 수 있다"고 분석했다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 매주 수요일 발행하는 AI인사이트를 통해 AI 리더들의 전략, 글로벌 테크업계 최신 흐름 및 중요 시그널을 놓치지 말고 확인하세요! “역대 가장 효율적인 x86 프로세서 제품군인 ‘인텔 코어 울트라 200V’ 시리즈를 출시합니다. 이 프로세서는 차세대 AI PC를 대표하는 제품입니다.” 팻 겔싱어 인텔 CEO는 3일(현지시각) 새로운 PC용 CPU(중앙처리장치) 제품을 출시하며 이같이 밝혔습니다. 강력한 AI 연산 성능, 전력 효율성 개선을 앞세워 고객(삼성전자, HP, 레노버, 델 등 PC 제조사)을 만족시킨다는 메시지입니다. 데이터센터·AI 분야에서 고전하고 있는 가운데, 주력 제품인 PC 칩으로 턴어라운드를 만들겠다는 의도로 읽힙니다. 그러나 시장의 반응은 차가웠습니다. 고성능 신제품 출시 소식에도 인텔의 주가는 이날 8.8% 급락했습니다.

반도체 설계 전문업체 AMD가 데이터 센터용 AI 시스템 설계 업체 ZT시스템(ZT Systems)을 인수한다. 총 49억달러(약 6조5400억원) 가치의 현금 및 주식을 활용, 2025년 상반기에 거래를 마무리한다는 계획이다. ZT시스템의 주 고객은 아마존웹서비스(AWS), 마이크로소프트 애저 등 대규모 클라우드 서비스를 운영하는 하이퍼스케일러다. ZT시스템의 데이터 센터용 AI 시스템, 인프라(Rack, 랙) 설계 능력을 확보한 AMD가 데이터 센터용 AI 가속기(Accelerator) 시장 1위인 엔비디아를 추격할 수 있을지 귀추가 주목된다. AMD는 19일(현지시각) 회사 홈페이지를 통해 “2027년 4000억달러(약 534조원) 규모에 달할 데이터 센터 AI 가속기 시장 기회에 대응하기 위해 업계 최고 시스템 전문성을 가진 ZT시스템을 전략적으로 인수한다”고 밝혔다. 현금 75%, 주식 25% 조건으로 인수 계약을 체결했다.

신정규 래블업(Lablup) 대표는 19일 “2023년 이후 3만 개 이상의 새로운 파인튜닝(Fine-tuning, 미세조정) 모델이 등장했다”며 이같이 말했다. 이날 ‘더웨이브 서울 2024’ 컨퍼런스 연사로 나선 신 대표는 라마의 등장을 ‘베를린 장벽 붕괴’에 비유했다. 소련 중심의 사회주의 몰락의 시작인 베를린 장벽 붕괴가 갑작스레 시작된 것처럼 메타의 라마도 지난 2023년 3월 의도치 않은 유출로 공개되면서 AI 산업 전반에 큰 변화를 일으켰다는 것이다.실제 라마는 메타가 자체 거대언어모델(LLM)인 '라마'를 처음부터 오픈소스로 풀겠다는 의지를 갖고 있던 것은 아니었다. 하지만 구글과 오픈AI 사이에서 생존을 고민하던 메타가 연구목적의 대학과 연구소에 모델을 무료로 공개하면서 퍼지기 시작했으며 깃허브에 소스가 올라가면서 사실상 '오픈소스'가 되버린 것이다. 이후 마크 저커버그 메타 CEO가 공식적으로 라마의 오픈소스를 공식적으로 선언했다. 이후 라마를 미세조정한 모델이 우후죽순 쏟아지며 갑자기 'LLM 르네상스'를 맞이하게 됐다. 신 대표는 이처럼 생성AI 혁명의 시작은 오픈AI가 지난 2021년 11월 챗GPT를 선보이면서 이지만 실제 각 분야로 넓게 퍼지며 촉발된 것은 메타가 라마를 오픈소스로 공개하면서 부터라고 의미부여했다. 이후 라마를 미세조정해 새로운 AI 모델을 개발하는 방식이 확산하면서 AI 모델 개발 비용이 크게 감소했다. 또 개인용 장비·기기에서 AI 모델을 활용하는 ‘온디바이스AI(On-device AI)’가 동시에 부상하게 됐다.  신 대표는 “AI 모델을 기기 자체에서 실행하면 지연 시간이 짧고, 인터넷 없이 사용할 수 있다”며 “사용자 데이터가 외부로 나가지 않는다는 장점도 있다. 프라이버시 보호가 중요한 음성 비서, 헬스케어, 스마트홈 기기 등에서 많이 활용되는 추세”라고 강조했다. 

반도체 팹리스(설계 전문) 기업 브로드컴이 양호한 1분기 실적을 발표했다. 전년 동기 대비 매출은 34% 증가했고, 주당순이익(EPS)도 월가 추정치를 웃돌았다. 다만 반도체 사업부 매출이 월가 예측을 밑돌았고, 회사 측이 제시한 2024년 연간 매출 추정치가 시장 예측에 거의 부합하자 나스닥 시장 시간 외 거래에서 주가가 2% 이상 하락 중이다. 더 강력한 매출 증가를 기대했던 투자자들이 일부 수익 실현에 나선 것으로 풀이된다. 브로드컴의 주가는 최근 1년 동안 122.54%, 올해 들어서만 29.63% 상승했다.  

반도체 설계 업체 엔비디아의 시가총액이 아마존을 넘어섰다. 생성AI 모델 학습 및 추론에 활용하는 최첨단 AI 반도체에 대한 강력한 수요에 투자자들이 반응한 것으로 풀이된다. 엔비디아의 시가총액이 아마존을 넘어선 건 2002년 이후 22년 만의 일이다. 13일(현지시각) 엔비디아는 뉴욕 증시에서 주당 721.28달러로 거래를 마감했다. 시가총액 기준 1조7810억달러 가치를 지닌 기업에 등극했다. 12일에도 장 중 잠시 아마존을 추월했지만, 이날은 종가 기준으로 시총을 능가했다. 1조7810억달러는 시가총액 순위로 보면 1위 마이크로소프트(3조190억달러), 2위 애플(2조8570억달러), 3위 알파벳(구글 모회사, 1조8110억달러)에 이어 4위에 해당한다. 아마존 시가총액은 1조7510억달러였다. 

생성형 AI 산업 헤게모니 확보를 위한 세계 각국의 경쟁이 가열되고 있다. 특히 생성 AI 개발·운영을 위한 핵심 인프라로 여겨지는 ‘AI 반도체’ 분야에서 이런 움직임이 두드러지는 분위기다. 챗GPT 개발사인 오픈AI는 최근 중동, 일본 투자사와 AI 반도체 생산, 조달을 위한 네트워크 구축에 나섰으며 세계 최대 AI 반도체 업체 엔비디아를 이끄는 젠슨 황 CEO는 미국 정부의 반도체 규제가 시작된 지 4년 만에 중국을 방문해 화제에 오르기도 했다. 샘 알트만 오픈AI CEO의 방한에도 이목이 집중된다. 샘 알트만 CEO는 이번 주 한국을 방문해 삼성전자, SK하이닉스 등과 AI 반도체 개발 및 공급 대책을 논의할 것으로 알려졌다.

제프 피셔 엔비디아 지포스(GeForce) 부문 부사장(SVP)은 8일(현지시각) “우리는 이미 하이브리드 AI가 작동하는 것을 보고 있다”며 이같이 말했다. 클라우드에서 엔비디아 GPU(그래픽처리장치)를 사용해 대규모 언어 모델(LLM)을 실행하는 한편, 개인용 컴퓨터에서는 ‘RTX(엔비디아 그래픽 카드 브랜드명)’ 텐서 코어를 활용, 지연 시간에 민감한 앱(application), 서비스를 실행할 수 있다는 것이다.