Tags
대만을 강타한 강진이 특정 지역 기반 업체에 지나치게 의존하는 반도체 산업의 취약성을 드러냈다. 3일(현지시각) 발생한 지진으로 대만에 위치한 세계 최대 반도체 파운드리(Foundry, 위탁생산 전문업체) TSMC의 일부 공장의 가동이 중단된 것이다. 고성능 AI 반도체 시장을 사실상 독점하고 있는 엔비디아의 GPU(그래픽처리장치)가 TSMC에서 생산되며 자체적으로 반도체를 개발하는 애플도 TSMC의 최대 고객사 중 하나다. AP통신 등 주요 외신에 따르면 이날 대만 동부 화롄시 인근에서 규모 7.4의 강진이 발생, 9명이 사망하고 1000명 이상의 부상자가 발생했다. 건물이 무너지고 정전이 발생하는 등 관련 피해가 속출했으며 2300만 명이 거주하는 타이베이 전역의 기차 운행이 중단됐다. 대만 당국은 이번 지진이 1999년 9월 21일 발생한 지진 이후 가장 큰 규모라고 밝혔다.
박원익 2024.04.03 14:20 PDT
바야흐로 인공지능(AI) 인프라를 향한 군비 경쟁 시대다. 대형언어모델(LLM)을 훈련하는데 필수재인 AI 칩 전쟁이 국가전으로 확대되는가 하면 한편에서는 데이터 확보 전쟁이 치열하다. 언어모델은 인간의 언어, 행동, 관습 등을 모방하는 게 기본 골자다. 그 때문에 연구자료, 기사, 위키피디아 등 인터넷에서 생성된 텍스트를 최대한 많이 넣어(인풋) 훈련해야 최고의 결과물(아웃풋)을 얻을 수 있다. 그러나 AI칩처럼 AI 모델 고도화에 필요한 고품질 데이터에도 품귀 현상이 벌어지고 있다. 절대적인 양이 부족한 데다 저작권 문제 등으로 데이터 확보가 더 어려워진 것. 이에 마이크로소프트, 오픈AI, 구글 등 기업은 데이터 원천소스를 늘리는 한편, 인공으로 데이터를 만드는 ‘합성데이터(synthetic data)’에 주목하고 있다.
Sejin Kim 2024.04.03 10:14 PDT
생성 AI의 엔진이 새로운 '산업혁명' 바람을 일으키고 있다. 젠슨 황 엔비디아 CEO는 지난 10일(현지시각) 미국 스탠퍼드 대학에서 열린 '2024 SIEPR 경제 서밋'에서 AI가 변화시킬 인류의 미래에 대해 이야기했다. 젠슨 황은 5년 이내에 AI가 현재 통과할 수 있는 변호사 시험뿐만 아니라 고도로 전문화된 의료 면허 시험 등 인간이 치르는 모든 시험을 통과할 수 있을 것이라고 예측했다. 그는 약 10년 후에는 AI 시스템의 연산 능력이 지금보다 백만 배 더 커질 것이라고 말했다. 앞으로 데이터를 합성적으로 생성하는 시스템은 지속적으로 학습하고 추론하고 상상할 수 있어야 하기에 더 큰 용량을 갖게 될 것이다.미래의 AI 시스템은 질문에 즉각적으로 대답하는 데 그치지 않고 오랜 시간 동안 문제를 비판적으로 사고할 수 있는 능력도 갖추게 될 것으로 보인다. 젠슨은 SIEPR의 명예 선임 연구원 존 쇼븐(John Shoven)과 스탠포드 인문과학대학의 명예 경제학 교수 찰스 슈밥(Charles R. Schwab)이 진행한 기조 질의응답 세션에서 "미래에는 사용자가 AI와 상호작용하는 방식이 현재 챗GPT 및 기타 AI 모델로 할 수 있는 것과는 매우 달라질 것"이라고 밝혔다. AI 기술이 마침내 인간처럼 생각하고 행동할 수 있을 것인가에 대해서 젠슨은 확실하지 않다고 말했다. 그는 "AI가 인간의 지능을 달성했다고 말하는 것이 무엇을 의미하는지에 대한 합의가 필요하다"며 "진정한 인공 일반 지능을 갖추기 위해서는 성공의 정의가 무엇인지 알아야 한다"고 설명했다.
김기림 2024.03.26 12:49 PDT
안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다. 한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 취재하는 더밀크만의 인사이트를 추가했습니다. 보다 깊이 있는 내용은 더 알아보기 링크로 확인하실 수 있습니다. 그럼 출발해 볼까요?
박원익 2024.03.25 22:20 PDT
뷰스레터 구독자 여러분 안녕하세요, 박원익입니다. 오늘은 미국 캘리포니아주 산호세에서 열린 엔비디아의 연례 기술 콘퍼런스 ‘GTC 2024’ 소식 2탄으로 전해드립니다. 3월 18일부터 나흘간 열린 GTC 2024는 온오프라인으로 약 30만 명이 등록, 역대 최대 규모로 진행됐습니다. 900개 세션, 300여 개 기업이 참여한 전시, 20개 넘는 기술 워크숍과 다양한 네트워킹 이벤트로 현장 열기가 뜨거웠습니다. 개인적으로도 매우 보람 있고 뜻깊었던 일정이었습니다. GTC 2024에 참석한 분들의 생각과 경험을 공유한 ‘K-나이트’ 행사를 개최했고, 젠슨 황 CEO 기자간담회 현장에 참여, 엔비디아의 방향성도 확인할 수 있었습니다. 이번 GTC 2024를 관통한 핵심 화두는 ‘챗GPT 이후 무엇이 등장할까(what’s next)’였습니다. 앞으로 떠오를 생성 AI 기술·산업 트렌드에 따라 삶의 풍경이 빠르게 바뀔 것이기 때문입니다. AI 반도체 등 핵심 산업도 크게 요동칠 수 있습니다.AI 최전선에 있는 과학자, 전문가들의 머릿속엔 무엇이 있을까요?
박원익 2024.03.25 12:41 PDT
브래드 라이트캡 오픈AI 최고운영책임자(COO)는 19일(현지시각) 미국 캘리포니아주 산호세 컨벤션 센터에서 열린 엔비디아의 연례 기술 컨퍼런스 GTC 2024 ‘생성 AI의 미래’ 세션에서 “AI 시스템 확장으로 여러 기능이 놀랍게 발전할 것”이라며 이같이 말했다. 생성 AI 기술의 발전 속도, 고객의 반응에 미뤄볼 때 앞으로 더 큰 혁신이 이어질 것이란 관측이다. 오픈AI가 2022년 11월 30일 선보인 AI 챗봇 ‘챗GPT’는 기업 고객용 제품이 아니었으나 많은 기업의 관심으로 2023년 8월 기업 버전(ChatGPT Enterprise)이 출시됐다. 최근에는 더 적극적으로 기업용 제품을 지원하고 있다는 게 라이트캡 COO의 설명이다.그는 “포춘지 선정 500대 기업 중 90% 이상이 챗GPT를 사용하고 있다”며 “실제 고객 대상 설문조사를 통해 기업용 제품이 기업 고객에 매우 적합하다는 것을 확인했다”고 말했다. 라이트캡 COO는 이어 “더 놀라운 건 수직적인 사용 사례(use case) 혹은 애플리케이션을 구축할 필요가 없었다는 점”이라며 “(직무에 관계없이) 챗GPT는 재무팀 직원, HR 담당자 등을 데이터 과학자로 변신시킬 수 있다”고 강조했다. 그는 “오픈AI는 현재 AI 모델에 여전히 존재하는 결함을 해결하는 일, AI 모델이 일을 잘할 수 있도록 맥락(context) 조정하는 일을 하고 있다”며 “AI 모델 성능 개선에 따라 결함은 점차 사라질 것”이라고 했다. JP모건, 드롭박스를 거쳐 와이콤비네이터에서 투자자로 활동했던 브래드 라이트캡은 샘 알트만 오픈AI CEO의 최측근 중 하나로 평가받는다. 블룸버그는 최근 그를 오픈AI의 ‘비밀병기(secret weapon)’라고 묘사하기도 했다. 라이트캡 COO와 마누비르 다스 엔비디아 엔터프라이즈 컴퓨팅 부문 VP의 대담을 통해 오픈AI가 바라보는 생성 AI 산업의 미래, 오픈AI의 미래 전략을 살펴봤다.
박원익 2024.03.23 23:22 PDT
휴머노이드 로봇을 생산 공정에 투입하는 완성차 업체들이 늘어나고 있습니다. 독일의 럭셔리 자동차 브랜드 메르세데스-벤츠도 그중 하나인데요. 최근 벤츠는 차세대 범용 휴머노이드 로봇 개발사인 '앱트로닉(Apptronik)'과 자동차 제조에 로봇을 시범 도입하는 계약을 체결했습니다. 앱트로닉은 2016년에 설립된 스타트업인데요. '아폴로'라는 이름의 인간형 로봇을 제작했습니다. 창고형 로봇으로 설계된 아폴로는 그간 이렇다 할 실적이 없었던 상황인데요. 메르세데스 벤츠가 사용 가능여부를 확인하기 위해 이를 시범적으로 도입하기로 한 겁니다. 아폴로는 키가 5피트 8인치이며, 최대 55파운드 무게를 들어 올릴 수 있는 것으로 알려졌는데요. 시범적으로 헝가리에 있는 벤츠 생산 라인에서 자동차 부품을 검사하거나 물류, 조립키트 배송 업무 등을 맡을 것으로 예상됩니다. 반복적이고 지루한 노동 업무를 중심으로 인간 노동자들의 힘을 덜어줄 것으로 예상됩니다. 👉'칩 메이커' 엔비디아도 휴머노이드 시장 정조준 최근 완성차 업계의 휴머노이드 로봇 도입은 유행처럼 번지고 있습니다. 아직 완벽한 상용화가 이뤄지지는 않았는데요. 시작은 테슬라였습니다. 테슬라는 자사의 자율주행기술과 인공지능(AI)을 결합한 휴머노이드 로봇 '옵티머스'를 개발 중이라고 언급한 바 있는데요. 올해 초에는 옵티머스를 공장에 투입하겠다고 밝혔습니다. BMW도 인간을 닮은 로봇을 생산라인에서 테스트하고 있습니다. BMW는 피규어 AI를 선택했는데요. 지난 1월 양사는 계약을 맺고 당장 사우스캐롤라이나 공장에 작업용 로봇을 배치할 계획인 것으로 알려졌습니다. 피규어AI는 마이크로소프트(MS), 오픈AI, 엔비디아 등 AI 분야에서 경쟁하는 빅테크 기업들로부터 6억 7500만달러 규모의 투자를 유치해 주목을 받기도 했습니다. 여기에 아마존은 어질리티 로보틱스와 계약을 맺고, 지난해부터 창고에서 작업이 가능한 휴머노이드 로봇을 테스트하고 있습니다. 미국에서 최근 열린 엔비디아의 개발자 컨퍼런스(GTC)에서도 직접 훈련시킨 '오렌지'와 '그린'과 같은 로봇을 소개하고 플랫폼 그루트(Groot)를 공개했는데요. 칩 메이커 마저도 로봇 시장을 정조준하고 나섰습니다. 인간형 로봇을 생산라인에 투입하는 것은 쉬운 일은 아닙니다. 무엇보다 '안전' 측면에서 인간 노동자와 로봇의 공존이 중요할 텐데요. 센서와 카메라 등을 통해 장애물을 피할 수 있지만, 사고의 위험성도 존재합니다.배터리도 문제입니다. 업계 전문가들에 따르면 휴머노이드 로봇에 탑재되는 에너지원이 짧은 시간 동안만 활용 가능하기 때문에 생산성에 도움을 줄 수 있을지에 대한 의문이 제기됩니다. 아폴로의 경우 최대 4시간 동안 에너지를 공급하는 배터리 팩을 사용한다고 하는데요. 방전되면 충전 배터리를 교환하는 방식이라고 합니다. 완성차 업계가 이렇게 로봇을 도입하는 이유는 인력난과 비용 문제 때문으로 보입니다. 지난해 완성차 업계는 자동차 노조 때문에 시련을 겪었는데요. 전동화 과정에서 불만을 품은 자동차 노조가 임금과 일자리 보존을 위해 세력을 과시하고 나섰고, 결국 노조의 승리로 돌아갔죠. 이 승리로 미국 공장 내 노조 움직임은 더욱 활발해질 전망입니다. 문제는 기업의 비용이 늘어난다는 점인데요. EV 전환에 따른 부담이 이어지고 수요가 급격하게 늘지 않는 상황에서 인건비가 늘어나는 것을 보고만 있을 수는 없을 겁니다. 좀 이르지만 노동력을 줄이고, 이를 자동화하려는 움직임에 나선 것이라고 해석할 수 있습니다.
권순우 2024.03.22 18:44 PDT
젠슨 황 엔비디아 CEO가 지난 18일부터 20일까지 3일간 미 산호세 컨벤션센터에서 열린 GTC2024에서 꺼낸 중요한 화두입니다. 그는 쉬지 않고 기조연설 2시간, 기자간담회 1시간 동안 열정적으로 새로운 제품을 소개하고 회사의 방향성, 아니 전세계 산업이 앞으로 어디로 갈지 머릿속에 있는 생각과 비전을 쏟아냈습니다. 저는 기조연설 시간에 '게스트 스피커'가 나올줄 알았습니다. 아니면 애플, 구글처럼 직원들이 나와서 제품을 소개할 수도 있죠. 하지만 젠슨 황은 기조연설 2시간 동안 거의 쉬지 않고 열정적으로 발표했습니다. 기자간담회도 마찬가지였습니다. 중간에 "너무 말을 많이 해서 머리가 아프다"고 할 정도로 성실하게 대화에 임했습니다. 거의 모든 질문에 빠짐없이 답을 했습니다.
손재권 2024.03.21 22:52 PDT
“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.
박원익 2024.03.21 18:32 PDT
오픈AI의 챗GPT가 발표된 이후 대다수 비즈니스가 일제히 생성AI를 자사의 제품과 서비스에 접목하면서 인공지능(AI) 모델 훈련의 핵심 재료인 엔비디아(NVIDIA)의 그래픽처리장치(GPU) 등 AI 반도체칩 수요가 급증하고 있다. 이에 엔비디아는 반도체 기업 사상 처음으로 시가총액 2조달러를 넘어섰다. 아마존과 구글 모회사 알파벳을 제치고 애플과 마이크로소프트에 이어 세 번째로 큰 회사다. 업계 전문가들은 엔비디아가 AI 기술, 산업 분야에서 독보적인 지위를 갖고 있다고 입을 모은다. 게임용 그래픽칩 제조 업체였던 엔비디아는 어떻게 AI 산업에 없어선 안될 기업이 됐을까? 엔비디아의 시작은 약 14년전 게이머를 위한 그래픽카드였다. 당시 프로세서는 일종의 부업이었다. 이제 이들의 AI 프로세서는 산업 자체를 움직인다.그 비결은 쿠다(CUDA)라는 인프라를 제공한 대신 신기술 흐름이라는 정보를 얻은 데 있다. 엔비디아는 당초 과학자들이 천문학적인 숫자의 과학 연산을 할 수 있도록 자사 병렬프로그래밍 모델 쿠다를 제공했는데, 이때 대부분 과학자들이 엔비디아 GPU를 사용해 연구한 덕분에 엔비디아는 AI 기술의 변화를 가장 빠르게 알 수 있었다.엔비디아는 당초 게이머를 위해 GPU를 설계했으나 매우 많은 픽셀에 단순한 연산을 동시에 대량으로 하는 연산 구조가 인공지능의 대량 정보 학습에 좋은 구조를 가지고 있다는 것을 깨달았다. 당시 주류던 중앙처리장치(CPU)는 메모리로부터 전송받은 데이터를 한 번에 하나씩 처리할 수 있는 구조다. AI와 딥러닝으로 처리해야 할 데이터의 양이 기하급수적으로 늘어나자 CPU 병목현상이 생겼다. 이에 엔비디아가 AI가속기, 즉 AI반도체 수요가 생기자 엔비디아가 그래픽처리장치(GPU)로 파고든 것. 회사는 2016년경부터 게임 그래픽카드 사업에서 인공지능 GPU로 전환했다. 이후 주요 사업을 게임용콘솔, PC, 노트북용 GPU 디자인에서 인공지능 컴퓨팅을 위한 디자인으로 바꿨다. GPU는 한 번에 다량의 데이터를 처리하는 병렬 처리 구조다. 한 번에 많은 양의 데이터를 학습하고 처리해야 하는 AI를 구현하기에 적합하다. 과거에는 그저 단순히 실감나는 게임에 대용량의 그래픽 처리를 수월하게 하기 위한 목적으로 GPU가 사용됐지만 AI가 발전하면서 새로운 사용처를 찾게 된 것이다. GPU는 트랜스포머에 좀 더 최적화되기도 했다. 트랜스포머는 문장 속 단어와 어순 간 관계를 추적해 맥락과 의미를 학습하는 신경 모델로, 오픈AI의 챗GPT의 근간이 된 모델이다. 이 트랜스포머 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다. 엔비디아의 GPU H100을 8개 붙인 엔터프라이즈용 가속기 DGX H100은 초거대 AI를 뒷받침하는 서버, 데이터센터에 잘 맞는다. 이미 유연성이 있는 GPU에 새로운 알고리듬을 누구보다 먼저 적용, 이를 지원하는 AI 반도체 설계 역시 경쟁사보다 수년 이상 먼저 시작할 수 있었던 셈이다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달하기도 했다. 당시 오픈AI는 ‘일반인공지능(AGI)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 챗GPT가 나오기 몇 달 전인 2년 전부터는 벤처투자조직을 만들어 유망한 AI 스타트업들에 본격적으로 투자해 왔다. 그때 투자한 기업들이 유니콘 스타트업인 코히어(Cohere), 허깅페이스(Huging Face), 인플렉션(Inflection) 등이다.인공지능 산업이 획기적인 도약을 보인 시기는 2012년이 꼽힌다. 당시 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 시장을 놀라게 했고, AI 연구에 불을 붙였다. 알렉스넷은 엔비디아의 그래픽처리장치(GPU) 칩을 이용해 합성곱신경망(Convolutional Neural Network, CNN) 아키텍처로 개발됐다.반면 알렉스넷이 나왔을 당시 새 알고리듬인 CNN이 제공하는 화상 인식 기술에 매료된 다른 기업들은 당시 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들었다. 대형 클라우드 기업을 비롯해 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등 스타트업들이 수천억원이 넘는 투자를 받고 자체 개발에 나섰다. 그러나 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어진 것으로 보인다.
Sejin Kim 2024.03.20 16:53 PDT
젠슨 황 엔비디아 CEO는 19일(현지시각) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “GPU는 생성 컴퓨터(generative computer)”라며 이같이 말했다. 고성능 AI 칩 ‘H100’, ‘H200’, 이번에 새롭게 발표한 차세대 칩 ‘B100’, ‘B200’ 같은 GPU가 생성 AI 시대를 가능케 하는 핵심 프로세서라는 주장이다. 디지털 정보를 영상 등 시각적 데이터로 처리(픽셀 정보 계산), 게임용으로만 사용됐던 GPU의 의미와 개념을 완전히 새롭게 정의했다.
박원익 2024.03.20 14:14 PDT