애플 M6·오픈AI 할라피뇨... 자체 칩 시대 열렸다

구독자 여러분 안녕하세요, 실리콘밸리와 글로벌 혁신 현장에서 최신 AI 산업 트렌드와 인사이트를 전해드리는 박원익의 AI인사이트입니다.

애플이 2나노미터 초미세 공정으로 제작된 새로운 칩 M6를 25일(현지시각) 공개했습니다.

강력한 성능의 최신칩 M6를 장착, 애플의 개인용 컴퓨터 맥미니(Mac mini)의 AI 성능을 크게 끌어올린 것이죠. 이날 공개된 새로운 맥미니는 M4 칩이 탑재된 전작 대비 AI 처리 성능이 최대 4배, 스토리지·그래픽 성능이 최대 2배 향상됐습니다. CPU 성능도 40% 개선됐습니다. 

특히 컴퓨터(로컬 환경)에 AI 모델을 설치하고 실행할 수 있도록 지원하는 애플리케이션 ‘LM 스튜디오(LM Studio)’ 기준으로 보면 대규모 언어 모델(LLM) 프롬프트 처리 속도가 M4 대비 4.8배나 향상됐습니다. M1 대비 13.5배 빠른 속도입니다. 

AI 모델을 활용해 앱, 에이전틱 워크플로를 만드는 개발자들이 맥미니를 주목하는 이유죠. 조니 스루지 애플 최고하드웨어책임자(CHO)는 공식 성명에서 “M6 탑재 맥미니는 완전히 새로운 차원의 AI 성능을 제공한다”며 “사람들이 이 기기를 어떤 놀라운 방식으로 활용할지 기대가 크다”고 밝혔습니다.

애플의 혁신은 이런 칩 설계 능력에서 비롯됩니다. 모든 애플리케이션, 서비스에 AI 기능이 탑재되는 AI 시대, AI를 빠르고 효율적으로 구동하려면 강력한 칩 성능이 필수적이기 때문입니다. 

실리콘밸리 프론티어 AI 기업들과 빅테크들이 반도체 기업에 의존하지 않고, 자체 칩 설계에 자본과 에너지를 쏟는 까닭도 여기에 있습니다. 애플은 M 시리즈로, 오픈AI는 할라피뇨로, 구글은 TPU와 자율주행 전용칩으로 각자의 AI를 최적화하는 중입니다. 자체 칩을 가진 플레이어가 AI 경제를 주도하는 시대가 열리고 있습니다.

팩트 요약: 오픈AI 칩, 엔비디아 GB200·GB300 능가

1. 오픈AI가 25일(현지시각) 자체 설계한 첫 번째 AI 추론 칩 할라피뇨(Jalapeño)의 첫 성능 결과를 공개했습니다. 반도체 분석 기관 세미애널리시스(SemiAnalysis)의 공개 벤치마크 ‘인퍼런스X(InferenceX)’로 측정한 결과입니다. 

2. 세 가지 오픈형 AI 모델을 구동하며 엔비디아의 GB200·GB300 시스템과 비교했더니 더 우수한 결과가 나온 것이죠.  

• GPT-OSS 120B: (vs GB200): 와트당 처리량 1.9배↑, 엔드투엔드 지연 1.7배↓, 사용자당 최소 토큰 생성 지연 2.7배↓

• 딥시크 R1 670B: (vs GB300): 와트당 처리량 1.7배↑, 지연 3.6배↓, 토큰 생성 4.1배↓

• 키미 K2.5 1T: (vs GB300): 와트당 처리량 1.5배↑, 지연 3.4배↓, 토큰 생성 3.8배↓

왜 중요한가:

할라피뇨는 엔비디아 GPU와 달리 언어모델 워크로드(workload, 작업량)에 특화해 설계됐습니다. 프리필·디코드 각 단계의 병목을 최소화하고 KV 캐시(임시 작업 메모리)를 로컬에 유지하는 방식이 효과를 보인 것이죠. 범용인 엔비디아 GPU를 능가했다라기 보다 특정 작업에 뛰어난 ‘전용칩의 시대가 열린다’는 시그널로 해석하는 게 적절하다는 게 업계의 분석입니다. 

칩 설계에 AI를 활용, 개발 기간을 극도로 단축한 것도 의미가 큽니다. 오픈AI에 따르면 AI가 작성한 구현 코드는 인간 전문가의 코드보다 1.5~1.8배 빠른 성능을 보였습니다. 오픈AI는 이미 2세대 칩을 개발 중이며 3세대 칩 역시 설계 시작 단계에 있습니다.

👉더 알아보기: ‘매운 고추’ 반도체 지형 흔든다(무료)

팩트 요약: 데이터센터 TPU 넘어 로보택시로 확장한 구글 칩 전략

1. 구글의 자율주행 자회사 웨이모가 20일 로보택시 트렁크 하부에 탑재한 자체 설계 전용 AI 추론 칩을 최초로 공개했습니다. 

2. 구글은 이미 데이터센터용 TPU를 자체 설계해 온 칩 설계 강자입니다. 이번에 그 역량이 자율주행용 하드웨어로 확장된 것이죠.

왜 중요한가:

자율주행 AI의 요구 사항은 범용 AI와 근본적으로 다릅니다. 라이다·카메라·레이더 등 복수 센서의 실시간 융합, 수백 미터 앞 경로 예측, 보행자·차량 인식을 위해 지연을 최소화한 반응성이 필요합니다. 혹한·혹서·진동·충격을 견디는 내구성, 시스템 하나가 작동하지 않을 때 즉시 이를 대체할 수 있는 이중화도 중요합니다.  

구글은 모델(제미나이)→칩(TPU+웨이모 전용)→클라우드(GCP)→애플리케이션을 모두 직접 통제할 수 있는 거의 유일한 기업입니다. 이번에 공개된 자율주행 칩 역시 이런 맥락에서 바라봐야 합니다.

👉더 알아보기: 구글 풀스택 AI 전략은 계속된다

팩트 요약: 석 달 만에 몸값 6배, AI 경제의 배관을 샀다

1. 스트라이프가 19일 AI 모델 중개 플랫폼 오픈라우터(OpenRouter)를 인수한다고 밝혔습니다. 70억~80억달러(약 10조~11조원) 대규모 딜입니다. 오픈라우터는 석 달 만에 몸값이 5~6배 뛰었습니다.

2. 오픈라우터는 GPT·클로드·제미나이·딥시크 등 400개 이상의 AI 모델을 단일 API(애플리케이션 프로그래밍 인터페이스)로 연결합니다. 가격·성능·속도·가용성에 따라 최적 모델을 자동으로 골라주는 기능도 제공합니다.

왜 중요한가:

스트라이프는 기업과 은행·카드 네트워크 사이에 들어가 결제를 연결하고, 수수료를 받습니다. 오픈라우터는 개발자와 AI 모델 공급자 사이에 들어가 모델을 연결하고 수수료를 받는 구조죠. 스트라이프가 결제의 복잡성을 없애준 것처럼 오픈라우터는 ‘어떤 지능을 어디에 사용할 것인가’의 복잡성을 제거해 준 셈입니다. 

자체 칩 개발 트렌드와 오픈라우터의 성공에는 최적화라는 공통점이 있습니다. 가장 적합한 모델·칩으로 비용을 절감하고, 성능을 개선할 수 있기 때문이죠.

👉더 알아보기: 스트라이프, 토큰 경제의 길목을 잡았다

오늘의 레터에서 다룬 세 가지 이슈에서 한발 더 나아가 더밀크만의 뷰(view)를 제공해 드리는 위클리 인사이트 코너입니다.

애플 M6, 오픈AI 할라피뇨, 웨이모 전용 칩, 스트라이프-오픈라우터. 최적화를 향해 질주하는 AI 산업 흐름 속에서 실제로 가치를 만들어내려면 무엇이 더 필요할까요? 컨설팅기업 맥킨지는 1:3:5 패턴을 제시합니다. AI 기술에 1달러를 투자할 때, 프로세스 재설계에 3달러, 역량 구축과 행동 변화에 5달러를 써야 한다는 것이죠. 기술이 아니라 조직에 더 투자해야한다는 게 핵심입니다.

👉위클리 인사이트: 맥킨지가 밝힌 AX 성공의 법칙

• 클로드, 채팅·코워크 메모리 통합 발표: 앤트로픽은 25일(현지시각) 공식 블로그를 통해 클로드 채팅과 클로드 코워크(Cowork)의 메모리를 하나로 통합한다고 발표. 채팅에서 쌓은 맥락, 예를 들어 “매니저가 누구이고 어떤 방식으로 보고서를 받고 싶어 하는지”가 코워크 작업 실행 시에도 그대로 적용. 코워크 작업에서 새롭게 파악된 정보가 이후 채팅에도 반영되는 구조

• 엔비디아·퍼플렉시티, DGX 스파크에서 로컬 AI 에이전트 협업: 엔비디아는 25일 퍼플렉시티와 협력해 퍼플렉시티 앱 ‘포터블 컴퓨터(Portable Computer)’를 엔비디아 DGX 스파크에서 구동하는 방법을 공개. 에이전트 하네스·오케스트레이터·모델이 모두 DGX 스파크 위에서 로컬로 실행

• 오픈AI, 프런티어 모델 '제로 데이터 보존' 발표: 오픈AI는 19일 API를 통해 GPT-5.6·GPT-5.5·GPT-5.4 등 프런티어 모델에 제로 데이터 보존(Zero Data Retention, ZDR) 옵션을 제공한다고 발표. ZDR 활성화 시 API 요청의 프롬프트·완성 내용이 오픈AI 서버에 저장되지 않음. 데이터 주권 확보 수요 증가 흐름을 반영

구독자 여러분들의 성공과 꾸준한 성장을 위해 더밀크는 계속해서 혁신의 현장, 미래가 바뀌는 순간을 목격하고 전달해 드리겠습니다. 감사합니다.

뉴욕에서
박원익 드림