추론 모델

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. “새로운 사고 모델(thinking models)의 시대가 시작됐습니다. 앞으로 어떻게 더 발전될지 기대됩니다.”순다 피차이 구글 CEO는 25일(현지시각) 소셜미디어를 통해 “역대 가장 지능적인 AI 모델 제미나이 2.5가 출시됐다”며 이같이 밝혔습니다. ‘챗봇 아레나’ 등 다양한 벤치마크(성능 평가)에서 1위를 기록한 새로운 AI 모델을 최대한 빨리 공개하고 싶었다는 게 그의 설명입니다. 지난 12월 제미나이 2.0을 출시한 지 단 3개월 만에 더 강력한 추론(reasoning) 모델을 선보인 것입니다. 실리콘밸리 AI 업계 분위기는 1주일 전 젠슨 황 엔비디아 CEO가 GTC 2025 기조연설에서 주장한 대로 흘러가고 있습니다. 추론 모델, AI 에이전트, 피지컬 AI의 발전으로 ‘스케일업(Scale-up, 확장)’이 계속될 것이란 전망이었죠. 돌이킬 수 없는 확장의 변곡점(inflection point)을 지났다는 게 황 CEO의 분석이었습니다.

경쟁자를 압도하는 AI 혁명의 지배자. 엔비디아가 글로벌 기술 컨퍼런스인 GTC2025를 통해 AI 시장을 사실상 수직 통합하는 수준의 압도적인 기술력을 뽐냈다. 엔비디아는 GTC2025를 통해 혁신적인 AI 추론 모델인 '라마 네모트론(Llama Nemotron)'을 출시, 인공지능 시장의 주도권 경쟁에서 다시 한 발 앞서 나갔다. 특히 이번 발표는 단순한 AI 모델의 신제품 출시를 넘어 AI 산업의 축이 '생성형 AI'에서 '에이전틱 AI(Agentic AI)'로 전환되는 변곡점이 될 것이란 전망이다.

중국 기술 기업 알리바바가 강력한 성능의 추론 모델 ‘QwQ-32B’을 오픈 소스로 출시했다. 지난 2월 27일 동영상 생성 모델 Wan2.1을 오픈 소스로 공개한 지 1주일 만이다. 오픈 소스 모델을 앞세워 클라우드, AI 생태계를 확장하려는 의도로 풀이된다. 딥시크 R1에 이어 미국과 중국의 AI 기술 전쟁이 더 치열해 질 전망이다.

앤트로픽이 최고 성능을 자랑하는 차세대 AI 모델 ‘클로드 3.7 소네트(Claude 3.7 Sonnet)’를 출시했다. 일론 머스크가 선보인 그록3, 오픈AI가 선보일 GPT-5와 ‘세계 1위 AI 모델’ 타이틀 경쟁을 벌일 전망이다.2025년에 독립적으로 일하는 전문가급 에이전트(agent, 대리인)인 ‘클로드 컬래버레이트(Claude collaborates)’를 달성하고, 2027년에는 도전적 과제를 해결해 돌파구를 마련할 수 있는 수준의 ‘클로드 파이어니어(Claude pioneers)’를 완성하겠다는 미래 로드맵도 제시했다.

‘답변 엔진(answer engine)’을 표방하는 AI 스타트업 퍼플렉시티(Perplexity)가 오픈AI가 선보인 것과 유사한 ‘딥 리서치(Deep Research)’ 기능을 출시했다.오픈AI의 딥 리서치는 월 200달러를 내야 하는 ‘챗GPT 프로’ 사용자만 사용할 수 있는 반면, 퍼플렉시티의 딥 리서치는 누구나 무료료 사용할 수 있다는 게 차이점이다. 퍼플렉시티 무료 사용자는 하루 5개 쿼리(query, 요청)를 사용할 수 있으며 유료인 ‘퍼플렉시티 프로’ 사용자는 하루 최대 500개 쿼리가 가능하다.

오픈AI의 라이벌로 평가되는 미국 AI 스타트업 앤트로픽이 정중동(靜中動) 행보를 걷고 있다. 오픈AI와 비교할 때 상대적인 고요함을 유지하면서도 비용 절감 및 매출 증대를 동시에 달성하는 뛰어난 효율을 보여주고 있다는 평가다. 앤트로픽의 이런 움직임은 이미 지난 연말 발표된 멘로 벤처스의 데이터를 통해 한 차례 확인된 바 있다. 실리콘밸리 VC 멘로벤처스가 공개한 자료에 따르면 기반 모델(foundation model) 시장에서 앤트로픽은 24% 점유율을 기록, 2023년(12%) 대비 가장 큰 폭(12%포인트)의 성장을 기록했다. 오픈AI의 점유율이 50%에서 34%로 하락한 가운데, 점유율을 배로 늘리며 오픈AI의 강력한 대체재로 자리 잡은 것이다. 구글, 메타 등 기반 모델을 제공하는 빅테크도 제친 성과다.12일(현지시각) 디인포메이션의 보도에 따르면 2027년 앤트로픽의 API 기반 매출(애플리케이션 프로그래밍 인터페이스로 AI 모델을 제공해 올리는 매출)은 최대 345억달러(약 49조8300억원)에 달할 전망이다. 2027년 오픈AI의 매출 전망치 440억달러(약 63조6000억원)를 바짝 뒤쫓는 수치다.   

1. 오픈AI, GPT-5에 o3 통합해 출시... 로드맵 업데이트👉주요 내용:샘 알트만 오픈AI CEO는 12일(현지시각) X(옛 트위터)를 통해 GPT-5에 ‘사고 연쇄(chain-of-thought)’ 기능을 포함할 계획이라고 밝혔습니다. 이 기능은 추론 모델인 o1, o3에 적용됐던 기능으로 사고의 흐름을 단계별로 드러내 AI가 더 정교한 답변을 생성할 수 있게 도와줍니다. 원래 차기 모델로 계획됐던 o3 출시는 취소됐습니다. 향후 몇 주 안에 출시될 예정인 GPT-4.5가 오픈AI의 마지막 비 CoT 적용 모델로 남게 됩니다. 알트만 CEO는 몇 달 후 GPT-5가 공개되면 챗GPT 무료 사용자에게도 무제한 채팅을 제공할 것이라고 밝혔습니다. 📍의미 및 전망:이 결정은 일반 AI 모델과 추론 모델로 나뉘어 있던 제품 종류를 통합해 단순화하는 효과를 낳을 것으로 예측됩니다. 단순 답변을 생성하는 것을 넘어, 더 복잡한 사고 과정을 활용하는 방향으로 AI 서비스가 진화하고 있음을 보여줍니다. 사용자들은 앞으로 더 심도 있는 질의, 문제 해결을 기대할 수 있을 전망입니다. 2. DOGE, 미국 재무부 시스템 침해 우려 제기👉주요 내용:포린폴리시 보도에 따르면 정부효율부(DOGE)가 미국 재무부(Treasury) 시스템 및 기밀 데이터에 접근한 사례가 드러났습니다.포린폴리시는 이번 사건을 미국의 핵심 보안 원칙을 위협한 중대 위험으로 규정했습니다. 적대국들이 데이터 탈취 및 백도어 설치 공격에 악용할 가능성이 제기된다는 설명입니다.📍의미 및 전망:이번 침해 사건은 정부 기관 및 관련 기업들이 보안 체계를 재점검하고 강화할 필요성을 키습니다. 국제 사이버 보안 환경에 대한 경각심도 높이고 있습니다.3. 트럼프 행정부, CIO 전면 교체… 실리콘밸리 인재 영입👉주요 내용:와이어드에 따르면 최근 트럼프 행정부는 관리예산실(OMB), 연방인사관리처(OPM), 에너지부(DOE) 등 주요 정부 기관의 최고정보책임자(CIO)를 팔란티어(Palantir), 스페이스X(SpaceX) 등 실리콘밸리 출신 경영진으로 교체했습니다.이런 변화는 정부 IT 전략, 보안 정책 등에 민간의 혁신적 접근법을 도입하려는 의도로 해석됩니다.📍의미 및 전망:정부와 민간 기술 기업 간의 경계가 재정의되면서 IT 및 보안 정책에 실리콘밸리의 혁신적 요소가 반영될 것으로 보입니다. 향후 정부 IT 운영 방식에 큰 변화를 예고합니다.4. 사이버 범죄자-인질 스왑, 미국 교사 마크 포겔 석방👉주요 내용:뉴욕타임스 보도에 따르면 트럼프 행정부는 사이버 범죄자로 알려진 알렉산더 비닉을 러시아에 인도하는 대신, 미국 교사 마크 포겔을 석방하는 인질 교환 거래를 진행했습니다.뉴욕타임스는 이 거래가 사이버 보안과 외교 전략의 경계를 모호하게 하며 국제 관계 및 보안 정책에 중대한 영향을 미칠 수 있다고 평가했습니다.📍의미 및 전망:이러한 인질 스왑 거래는 국가 간 신뢰와 외교 관계에 대한 재고를 요구하고 있습니다. 사이버 범죄와 국제 정치가 복합적으로 작용하는 현대 보안 환경을 반영하는 사례입니다.5. 어도비, 파이어플라이 베타 공개… 5초 영상 생성 기능👉주요 내용:어도비는 새로 개편한 파이어플라이(Firefly) 웹 앱을 통해 1080p 해상도의 5초 영상 생성 기능을 공개 베타로 제공하기 시작했습니다.이번 업데이트로 어도비는 이미지 생성, 텍스트 번역, AI 크레딧 구독 등 다양한 AI 기반 콘텐츠 제작 기능을 함께 선보였습니다. 창작자들에게 혁신적 도구가 될 것이란 평가입니다.📍의미 및 전망:이번 파이어플라이 업데이트는 AI를 활용한 콘텐츠 제작의 새로운 표준을 제시했다는 평가를 받습니다. 크리에이터와 디자이너가 보다 효율적이고 창의적으로 작업할 수 있는 환경을 조성할 것으로 기대됩니다.6. 애플, 5년 건강 연구 프로그램 시작👉주요 내용:애플은 브리검 여성 병원(Brigham and Women’s Hospital)과 협력해 미국 아이폰 사용자를 대상으로 사용자의 자발적 참여에 기반한 5년 건강 연구 프로그램을 시작했습니다.애플 건강 앱(Health app)을 통해 수집된 방대한 사용자 건강 데이터는 향후 의료 인사이트 도출 및 건강 관리 혁신에 중요한 역할을 할 예정입니다.📍의미 및 전망:이번 연구는 디지털 헬스케어 분야에서 사용자 데이터를 통한 장기 연구가 어떻게 의료 혁신으로 이어질 수 있는지에 대한 가능성을 보여줄 전망입니다. 향후 개인 맞춤형 건강 관리와 의료 서비스 개선에도 기여할 것으로 예측됩니다.7. 트럼프, 애플 임원 등 실리콘밸리 인재 규제 기관에 지명👉주요 내용:트럼프 행정부는 애플 임원 조너선 모리슨(Jonathan Morrison)을 도로교통안전청(NHTSA) 수장 후보로 지명하는 한편, a16z 크립토(Crypto)의 브라이언 퀸텐츠(Brian Quintenz) 차기 상품선물거래위원회(CFTC) 위원장으로 지명할 계획으로 알려졌습니다. 조너선 굴드(Jonathan Gould)는 화폐감독관 후보, 조너선 맥커넌(Jonathan McKernan)은 소비자금융보호국(CFPB) 이사 후보 등 실리콘밸리 주요 인사들을 각종 규제 기관에 임명할 계획입니다.📍의미 및 전망:이런 인사 조치가 규제 정책에 민간의 혁신적 시각을 반영할 수 있는 기회가 될 수 있다는 평가가 나옵니다. 다만 부정적 영향도 있을 수 있기 때문에 향후 정부 정책 및 산업 전반에 미칠 영향에 관심이 집중되고 있습니다.8. 애플, 안드로이드용 애플 TV 앱 출시 👉주요 내용:애플이 안드로이드 사용자들을 위한 애플 TV 앱을 구글 플레이 스토어에 출시했습니다. 안드로이드 사용자도 세버런스를 비롯한 인기 TV 시리즈를 비롯해 메이저리그사커(MLS) 시즌 패스, 메이저리그베이스볼(MLB) 금요일 저녁 콘텐츠를 즐길 수 있습니다. 캐스팅(casting) 기능은 제공되지 않습니다.📍의미 및 전망:애플의 안드로이드 운영시스템(OS) 진출은 자사 콘텐츠 서비스의 사용자 기반 확대를 목표로 한 전략으로 해석됩니다. 안드로이드 생태계 내에서 애플 TV+ 및 스포츠 콘텐츠 서비스의 인지도를 높이는 계기가 될 것으로 예상됩니다.9. 구글 위협 인텔리전스, 러시아 등 사이버 범죄 활용 증가 경고👉주요 내용:구글 위협 지능 그룹(Google Threat Intelligence Group) 최신 보고서에 따르면 러시아 등 미국의 적대국들이 무료 공개 멀웨어(Malware, 악성 소프트웨어) 등을 활용해 공격을 강화하고 있는 것으로 나타났습니다.이러한 변화는 우크라이나 전쟁 이후 더욱 두드러지고 있으며 전 세계 사이버 보안 환경에 심각한 위협으로 작용하고 있다는 평가입니다. 📍의미 및 전망:이번 보고서는 사이버 보안 위협이 단순한 해킹을 넘어, 국가 간 전략적 도구로 활용되고 있음을 보여줍니다. 정부와 기업이 보안 강화 및 위협 대응 체계를 재정비할 필요가 있다는 점을 시사합니다.10. 마이크로소프트, 러시아 해킹 그룹 활동 상세 공개👉주요 내용:마이크로소프트는 러시아 해킹 그룹 샌드웜(Sandworm) 내부에서 ‘배드파일럿(BadPilot)’이라는 초기 침투(Initial Access) 팀의 존재 여부 및 활동을 공개했습니다. 이 팀은 미국, 영국, 캐나다, 호주 등 여러 주요 국가를 대상으로 한 사이버 공격의 초기 침투를 담당해 왔습니다.마이크로소프트에 따르면, 배드파일럿 팀은 샌드웜의 전반적 공격 전략에서 중요한 역할을 수행하며 침투 단계에서 네트워크 내부의 약점을 노리는 전략을 사용하고 있습니다.📍의미 및 전망:이번 발표는 국제 사이버 보안 환경의 복잡성과 심각성을 부각하고 있습니다. 각국 보안 기관, IT 기업이 더욱 긴밀하게 협력, 대응해야 할 필요성이 커졌습니다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 매주 수요일 발행하는 ‘AI인사이트’를 통해 AI 리더들의 전략, 글로벌 테크업계 최신 흐름 및 중요 시그널을 놓치지 말고 확인하세요!“오픈AI는 매물로 내놓은 기업이 아니다(It's not for sale).”샘 알트만 오픈AI 공동창업자 겸 CEO는 11일(현지시각) 프랑스 파리 ‘AI 액션 서밋’ 현장에서 진행된 블룸버그와의 인터뷰에서 “머스크는 우리의 속도를 늦추고 싶어 하는 것 같다”며 이같이 말했습니다. 일론 머스크가 주도하는 투자자 컨소시엄이 오픈AI 비영리법인(nonprofit)을 인수하겠다고 나서자 강하게 응수한 것입니다. 머스크는 전날 974억달러(약 141조원) 규모 인수 제안이라는 카드를 꺼내며 세계 최고 AI 기업 중 하나인 오픈AI를 세차게 흔들었습니다.

“딥시크(DeepSeek)의 R1 출시는 맛집 레시피가 공개된 상황과 비슷합니다.”신정규 래블업 대표는 6일 더밀크가 주최한 ‘딥시크 쇼크 & 포스트 CES 산업별 집중분석 웨비나’에서 “현재 가장 곤란한 회사는 오픈AI일 것”이라며 이같이 말했다. 지금까지 오픈AI는 AI 업계에서 ‘독보적인 레시피(AI 모델 개발 비법)를 가진 미슐랭 쉐프’ 같은 지위를 유지해 왔는데, 중국 스타트업 딥시크의 부상으로 상황이 바뀌었다는 설명이다. 특히 오픈AI가 지난 9월 놀라운 성능의 추론 모델 ‘o1’을 처음 공개한 후 업계에서는 “AI 모델로 오픈AI와 경쟁하기는 힘들다”는 시각이 팽배했다. 하지만 딥시크가 o1과 비슷한 성능의 추론 모델 R1을 ‘오픈 웨이트(open-weights, 개방형 가중치)’로 공개하면서 분위기가 반전됐다. 오픈 웨이트란 AI 모델의 성능을 좌우하는 가중치(weights, 변수 간 연결 강도) 값을 공개한 모델을 말한다. 모델 크기를 이야기할 때 주로 언급하는 ‘매개변수(parameters)’가 가중치 역할을 수행한다. 연구자들은 모델이 이렇게 정해진 값에 따른 계산을 거친 후 적절한 답을 도출하는지 확인하는 과정을 반복하며 AI 모델을 개발한다.예컨대 반만 그린 고양이 그림을 주고, 나머지를 완성해 달라고 요청했을 때 실제 고양이와 흡사한 그림이 완성된다면 모델 내 존재하는 수십, 수천억 개의 매개변수, 즉 가중치 값이 잘 조정됐다고 말할 수 있다. AI업계에서는 공개된 R1의 가중치가 오픈AI o1 모델의 가중치와 비슷할 것으로 추측한다. 맛집의 비밀 레시피가 공개되자 이 레시피를 활용한 다른 식당들이 생겨나는 상황인 셈이다. 실제로 o1과 비슷한 오픈형 추론 모델이 우후죽순 등장하고 있다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 음력 정월 초하루에 인사드립니다. 새해 복 많이 받으세요. “오픈AI, 앤트로픽, 구글, 메타, 마이크로소프트, 아마존이 해내지 못한 일을 200명의 소규모 팀이 해냈다.” (디디 다스, 멘로벤처스 투자자)한국 설 연휴 기간 실리콘밸리는 중국 스타트업 딥시크(DeepSeek)가 개발한 추론 특화 AI 모델 ‘R1’으로 떠들썩했습니다. 실리콘밸리뿐만 아닙니다. 주식시장에서는 지난 27일(현지시각) 하루 만에 시가총액 5890억달러(약 846조원)가 증발한 엔비디아를 비롯해 브로드컴, 오라클이 각각 18.15%, 13.39% 하락하는 등 AI 관련 기술주 동반 폭락했습니다.  왜 이런 일이 벌어졌을까요? ‘딥시크 쇼크’ 속에서 어떤 교훈을 얻을 수 있을까요?

“딥시크(DeepSeek)의 추론 특화 모델 ‘R1’은 이미 같은 비용으로 오픈AI의 o3보다 나은 성능을 냅니다.”실리콘밸리 유명 벤처캐피털 멘로벤처스의 AI 분야 투자자 디디 다스(Deedy Das)는 27일(현지시각) “o1 모델 대비 25배 저렴하기만 게 아니다”라며 이같이 밝혔다. 자신의 X(옛 트위터) 계정에 오픈AI의 o3 성능 그래프 사진을 올리며 R1과 직접 비교한 것이다. 그가 공개한 그래프는 AI 모델의 코딩 실력을 평가하는 ‘코드포스(Codeforces)’ Elo 점수 차트. 저비용 환경에서 o3-미니(low) 대비 높은 성능을 발휘할 수 있다는 게 디디 다스의 설명이다. 1월 20일 R1 발표 직후 AI 업계는 R1이 저렴한 비용으로 오픈AI의 첫 번째 추론 특화 모델 ‘o1’과 대등한 성능을 기록했다는 점에 주목했다. 한데 그로부터 단 일주일 만에 R1이 o1의 후속 모델 o3를 능가한다는 분석이 나왔다. 오픈AI의 추론 특화 모델 o3는 지난 12월 20일에 공개된 것으로 아직 정식 출시도 되지 않은 모델이다.2023년 중국 항저우에 설립된 신생 스타트업이 실리콘밸리 프론티어(frontier, 최첨단) 기업 오픈AI를 능가했다는 소식은 업계를 깜짝 놀라게 하기 충분했다. 오픈AI 출신의 AI 전문가 아라빈드 스리니바스 퍼플렉시티 CEO가 “정말이냐?”는 댓글을 달며 놀라움을 표시했을 정도다. R1의 성능이 o3를 능가한다는 구체적 근거는 무엇일까. R1 벤치마크 점수의 의미, R1의 핵심 기술과 쟁점을 살펴봤다. 

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 성탄절 휴일로 이번 주는 목요일에 발행합니다. ‘AI인사이트’를 통해 AI 리더들의 전략, 글로벌 테크업계 최신 흐름 및 중요 시그널을 놓치지 말고 확인하세요! “특별한 한 해의 환상적인 마무리였습니다.” 순다 피차이 구글 CEO는 23일(현지시각) 자신의 X 계정을 통해 “2025년에는 더 놀라운 것들이 올 것”이라며 이같이 말했습니다. 연말에 집중됐던 구글 딥마인드의 새로운 AI 모델 및 관련 제품 발표를 언급하며 소회를 밝힌 것입니다. 실제로 구글은 차세대 AI 모델 ‘제미나이 2.0 플래시’를 비롯해 동영상 생성 모델 ‘비오2(Veo2)’, 이미지 생성 모델 ‘이마젠3(Imagen 3)’, 월드 모델 ‘지니2(Genie 2)’까지 새로운 AI 모델을 쏟아냈습니다. 오픈AI 역시 마찬가지입니다. 20일까지 12일 연속 진행한 신제품 발표 이벤트에서 동영상 생성 모델 ‘소라(Sora)’를 출시했고, 새로운 추론 전문 모델 ‘o3’를 공개했습니다. 두 회사가 경쟁적으로 쏟아낸 업데이트에 업계는 말 그대로 폭풍 같은 연말을 맞이했죠.