김호식 SK하이닉스 부사장(VP)은 10일(현지시각) “메모리 월, 메모리 바운드 문제 때문에 HBM이 생성 AI 소프트웨어, 하드웨어에서 매우 중요한 요소가 됐다”며 이같이 말했다. 메모리 월(Memory Wall)은 프로세서와 메모리 성능 차에 따른 병목 현상, 메모리 바운드(Memory Bound)는 대규모 언어 모델(LLM)의 성능이 메모리의 대역폭과 용량에 의해 제한되는 현상을 뜻한다. 생성 AI 붐으로 인해 프로세서 속도 경쟁이 가열되고 연산량도 폭증, HBM이 생성 AI 산업의 핵심 요소로 떠오른 것이다.
“한국의 AI 기술에 대해 미국에서 잘 모릅니다. 누군가는 알려야 한다고 생각해서 행사를 기획했습니다.”공경록 A2G캐피탈(Asia2G Capital, 구 K2G 펀드) 대표는 12일(현지시각) “실리콘밸리에서 한국 AI를 알리는 ‘비욘드 아시아 테크 서밋: AI in 2024’를 개최한다. 청중 다수가 비한국계 기술·투자업계 관계자가 될 것”이라며 이같이 말했다. 한국에 훌륭한 기술 및 기업이 많은데, 이런 정보를 제대로 알릴 수 있는 행사가 많지 않다는 것이다. 미국에는 여전히 ‘코리아 디스카운트’가 존재하며 행사를 하더라도 현지 관계자들이 많이 참석하지 않아 효과가 떨어진다는 주장이다. 공 대표는 한국 스타트업의 글로벌 진출을 돕는 실리콘밸리 벤처투자회사(VC) A2G를 이끌고 있다. A2G는 오는 6월 10일(현지시각) 캘리포니아주 서니베일에 위치한 플러그앤플레이 테크센터에서 행사를 개최, AI 기술·산업의 중심지인 실리콘밸리에 한국 기업 및 스타트업을 알린다는 계획이다.AI 기술은 최근 딥테크를 넘어 전 산업 영역에 적용되고 있다. AI 반도체, AI 기반 게임 등 한국 기업들이 두각을 나타내는 분야에 대한 글로벌 투자자, 산업계 관계자들의 관심도 높다. 이번 행사는 모두 영어로 진행되며 애플, 메타, 세일즈포스, 인튜이트 등 실리콘밸리 기술 기업과 VC에서 일하는 비한국계 전문가들이 다수 참여할 것으로 알려졌다.
미국의 반도체 '르네상스'가 시작됐습니다. 삼성전자와 SK하이닉스를 비롯한 한국 기업과 TSMC, 인텔 등 모든 반도체 기업이 미국 투자를 확대하며 AI칩 시장 경쟁에 돌입했습니다. 특히 SK하이닉스는 39억달러를 투자해 인디애나주에 첨단 패키징 공장을 건설할 예정입니다. 이는 인디애나 주의 단일 기업으로는 최대 규모의 투자입니다.문제는 인력입니다. 기업들의 공격적인 투자가 이뤄지고 있지만, 뚜렷한 인력확보 대책이 없다는 점이 리스크 요인으로 떠오르고 있습니다. 미국에 투자하는 반도체 기업들이 늘어나고 있기 때문에 경쟁사들간 인력 충원 경쟁도 피할 수 없게 됐습니다. '인력 스틸' 경쟁이 벌어질 판입니다. 업계에서도 첨단 패키징 제조 공장을 운영하려면 수백 명의 엔지니어가 필요하다고 입을 모으고 있습니다. 기업들은 일단 투자, 진출하는 지역의 대학들과 협력하는 방식으로 인력을 확충할 전망입니다. SK하이닉스는 일단 인근 퍼듀 대학교와 반도체 연구개발과 인력 양성 분야에서 협력하기로 했습니다. 또 앞서 텍사스주 테일러시에 진출한 삼성전자도 텍사스대학교(UT)에 370만달러를 지원하면서 반도체 인력을 확보할 계획을 세웠습니다. 👉 2033년 제조업 인력 190만 명 부족... 바이든 정부도 지원책 반도체 분야에만 국한되는 상황은 아닙니다. 최근 컨설팅 기업인 딜로이트와 제조업 인스티튜트(MI)가 내놓은 보고서에 따르면 2024년부터 오는 2033년까지 제조 부문에 최대 380만 명의 노동력이 필요한 것으로 조사됐습니다. 만약 현 상태가 유지된다면 190만 명의 관련 인력이 부족할 수 있는 것으로 나타났습니다. 반도체 육성법과 같은 주요 법안들이 미국 제조업에 대한 투자를 강화하면서 산업 근로자에 대한 필요성이 커진 탓입니다. 많은 제조사들이 자동화와 숙련된 인력 충원이라는 두 마리 토끼를 쫓고 있습니다. 자동화 역시 새로운 기술을 확보한 인력이 뒷받침되어야 하는데요. 지난 5년 동안 제조 부문에서 시뮬레이션과 소프트웨어 기술에 대한 수요가 75%나 급증했습니다. 일부 제조업체들은 재소자 출신들을 고용하고 있다. 오하이오주에 있는 느헤미야 제조업(Nehemiah Manufacturing)은 전직 수감자 출신 직원 고용을 통해 인력조달 어려움을 해결했다. 타이드 휴대용 펜, 세탁얼룩제 제거, 세제 등을 생산하는 이 업체는 170명의 전직 수감자들에게 제 2의 인생을 살 수 있는 기회를 제공하고 있다. 포춘지에 따르면 전체 직원의 70%에 해당하는 인력이다. 이 회사는 직원들을 '존중'하는 기업문화를 기반으로 이직율을 크게 낮췄다. 제조업 표준인 40%를 크게 밑도는 15%에 불과한 것으로 조사됐다. 또 평균 근로자 근속 기간은 7년이었다. 업계 평균은 5년에 불과하다. 회사 측은 "낮은 이직률로 인해 온보당 비용을 연간 31만 5000~52만 5000달러까지 낮출 수 있었다"고 밝혔다. 배터리 부문에서는 바이든 행정부가 손을 쓰고 있는 것으로 보입니다. 미 에너지부(DOE)는 노동부(DOL)와 협력해 지난달 배터리 노동력 이니셔티브(BWI)의 배터리 머신 조작 교육을 위한 국가 지침 표준을 발표했습니다. 새 표준에 따라 에너지부의 국립에너지 기술 연구소는 4월부터 관련 교육을 시작하며, 아르곤 국립연구소도 올여름부터 인력 양성에 나선 계획입니다.
“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.
젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지 시간) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “한국 반도체 기업들의 기술력은 매우 뛰어나다. 엔비디아는 HBM에 엄청나게 많은 돈을 쓰고 있다”며 이같이 말했다. SK하이닉스, 삼성전자가 생산하는 HBM 제품을 높이 치켜세운 것이다. 시장조사업체 트렌드포스에 따르면 SK하이닉스와 삼성전자는 2023년 기준 HBM 시장 점유율 53%, 38%를 차지하며 시장을 주도하고 있다. SK하이닉스는 엔비디아의 고성능 AI 반도체인 ‘H100’에 HBM을 공급, 주목을 받았다.젠슨 황 CEO는 이날 삼성전자의 HBM을 사용하고 있느냐는 질문에 “아직 사용하고 있지 않다”고 답하면서 “현재 테스트(qualifying)하고 있다. 기대가 크다”고 언급했다.그는 이어 “생성 AI 때문에 데이터센터에 더 많은 고성능 메모리가 필요해지고 있다. HBM은 메모리 반도체의 미래”라며 “SK하이닉스와 삼성전자의 제품 업그레이드 주기는 믿을 수 없을 만큼(incredible) 빠르다”고 했다.
안녕하세요. 샘 알트만 오픈AI 최고경영자(CEO)가 지난주 전격적으로 한국을 찾았습니다. 그의 방한은 이번이 두번째 인데요. 지난해 방한 때 더밀크가 공동주최한 대담 이벤트가 있어서 인지 그의 방한의 이유에 대해 더밀크에도 문의가 많이 왔었습니다. "왜 왔냐? 누구를 만나는가?"는 질문이었습니다. 알트만 CEO는 지난 26일 삼성전자 평택 공장 반도체 생산라인을 둘러보고 최태원 SK그룹 회장과 면담했습니다. 삼성전자 서초사옥 방문 순간이 사진에 찍히기도 했죠. 1차 방한 때는 '오픈AI 월드투어' 목적이었습니다. 생성AI 글로벌 혁명 현장을 보고 세계 각국 지도자들과 개발자들에게 오픈AI의 생각을 직접 설명하고 그들로부터 배운다는 것이었죠.2차 방한 때는 '오픈AI 칩 동맹 구축'이 목적입니다. 그는 방한 직전엔 중동 투어를 했습니다. 아랍에미레이트(UAE), 카타르, 요르단, 이스라엘을 각각 방문했죠. 그는 현재 반도체칩을 생산하기 위한 공장 네트워크를 구축하기 위해 수십억달러를 조달 중인 것으로 알려졌습니다. 알트만 CEO는 삼성전자와 SK 최 회장에게도 같은 주문(투자 유치 및 칩 동맹 구축에 동참)을 한 것으로 보입니다. 샘 알트만은 엔비디아의 AI 가속기 H100에만 의존하는 현 상황에서는 생성AI 혁명이 지속가능하지 않다고 판단하고 있습니다. 그가 진짜로 엔비디아 독립을 선언한다면, 오픈AI보다 더 성공한(혹은 실패한) 프로젝트가 될 수 있을 것입니다.2024년 AI 혁명의 흐름이 바뀌고 있습니다. 2023년을 뜨겁게 달궜던 AI는 이제 ‘페이즈2’로 나아가고 있습니다.
생성형 AI 산업 헤게모니 확보를 위한 세계 각국의 경쟁이 가열되고 있다. 특히 생성 AI 개발·운영을 위한 핵심 인프라로 여겨지는 ‘AI 반도체’ 분야에서 이런 움직임이 두드러지는 분위기다. 챗GPT 개발사인 오픈AI는 최근 중동, 일본 투자사와 AI 반도체 생산, 조달을 위한 네트워크 구축에 나섰으며 세계 최대 AI 반도체 업체 엔비디아를 이끄는 젠슨 황 CEO는 미국 정부의 반도체 규제가 시작된 지 4년 만에 중국을 방문해 화제에 오르기도 했다. 샘 알트만 오픈AI CEO의 방한에도 이목이 집중된다. 샘 알트만 CEO는 이번 주 한국을 방문해 삼성전자, SK하이닉스 등과 AI 반도체 개발 및 공급 대책을 논의할 것으로 알려졌다.
