생성AI 본진 실리콘밸리에서 K-AI 생태계 만든다

김호식 SK하이닉스 부사장(VP)은 10일(현지시각) “메모리 월, 메모리 바운드 문제 때문에 HBM이 생성 AI 소프트웨어, 하드웨어에서 매우 중요한 요소가 됐다”며 이같이 말했다. 

메모리 월(Memory Wall)은 프로세서와 메모리 성능 차에 따른 병목 현상, 메모리 바운드(Memory Bound)는 대규모 언어 모델(LLM)의 성능이 메모리의 대역폭과 용량에 의해 제한되는 현상을 뜻한다.

생성 AI 붐으로 인해 프로세서 속도 경쟁이 가열되고 연산량도 폭증, HBM이 생성 AI 산업의 핵심 요소로 떠오른 것이다.

HBM 분야에서 가장 앞선 기술력을 보유한 SK하이닉스는 엔비디아의 주요 파트너사로 낙점, 승승장구 중이다. AI 혁신을 주도하며 글로벌 시가총액 3위 기업이 된 엔비디아의 약진에 SK하이닉스가 적잖은 기여를 했다. HBM3E(고대역폭메모리 5세대)를 엔비디아에 제공하기 위해 미국 인디애나주에 첨단 반도체 패키징 시설 건설도 추진 중이다. SK하이닉스가 자체 전략을 공개한 것은 드문 일이다.

자체 AI 가속기를 개발하는 구글, 아마존 등 빅테크 기업 역시 HBM을 찾는 이유가 여기에 있다. 김 부사장은 “SK하이닉스는 소프트웨어 개발 업체, 칩 설계 업체 등 다양한 글로벌 기업과 협력, AI의 미래를 발전시키고 혁신하고자 한다”고 했다.  

김 부사장은 이날 캘리포니아주 서니베일 플러그앤플레이 테크센터에서 열린 ‘비욘드 아시아 테크 서밋 2024(BeyondAsia Tech Summit: AI in 2024)’에 연사로 나서 이와 같은 비전을 공유했다. 비욘드 아시아 테크 서밋은 한국 스타트업의 글로벌 진출을 돕는 실리콘밸리 벤처투자회사(VC) A2G(Asia2G Capital, 구 K2G 펀드)가 한국의 AI 기술을 알리고자 개최한 행사다.

오후 5시부터 진행된 이날 행사에는 200여 명 이상의 실리콘밸리 기술 기업 관계자, 투자자, VC 등이 참석, 한국의 AI 기술과 기업에 대한 큰 관심을 보였다. 이번 행사는 SK하이닉스, 크래프톤, 경기창조경제혁신센터가 후원했다.

세계 최대 규모 액셀러레이터 플러그앤플레이는 장소 후원으로, 크로스보더 미디어 더밀크가 미디어 스폰서로 함께했다.

켄 킴 A2G 파트너는 환영사를 통해 “한국과 아시아에서 훌륭한 아이디어와 기업가, 그리고 이를 실현하고자 하는 불타는 열망을 발견하고 있다”고 했다. 

이어 무대에 오른 정지훈 A2G 파트너는 AI 산업 트렌드와 A2G의 투자 프레임워크를 설명했고, 차인혁 디지털플랫폼정부위원회 서비스 분과 위원장 겸 디지털 트윈 태스크포스팀장(전 CJ올리브네트웍스 대표)은 한국 정부의 디지털 혁신 노력을 설파했다.

차 위원장은 “한국 정부 IT 예산 규모는 연간 110억달러(로 약 15조원) 매년 5% 정도 성장하는 꽤 큰 시장”이라며 “이 중 혁신 프로젝트 규모는 6%, 7% 정도인데 내년에는 10%가 될 것”이라고 했다. 특히 정부 서비스에 AI 사용을 확대한다는 계획이다. 

이강욱 UW메디슨 전기컴퓨터공학부 교수 겸 크래프톤 본부장은 게임 분야에서 어떻게 AI를 활용하고 있는지 발표, 눈길을 끌었다. 이 본부장은 "AI로 인해 게이머가 사람이 아닌 버추얼 프렌드와 배틀그라운드와 같은 게임하는 시대가 오고 있다"며 "AI가 게임 플레이의 만족도를 높아지는 계기를 만들 것이다"고 강조했다.

김주영 하이퍼엑셀 대표는 생성 AI 애플리케이션을 위해 설계된 하이퍼엑셀의 AI칩이 어떻게 추론(Inference) 과정을 가속하는지 설명했고, 전 세계에 1억 명 이상 구독자를 보유한 더핑크퐁컴퍼니의 이승규 공동창업자 겸 부사장은 콘텐츠 제작 분야에서 AI가 크리에이터들을 얼마나 증강, IP(지식재산권) 비즈니스에 도움을 줄 수 있는지에 대해 발표했다. 

박세준 티오리 대표는 보안 분야에서 AI 기술을 적용한 사례를, 데이비드 김 플러그앤플레이 이사는 글로벌 AI 투자 트렌드에 관해 발표했다. AI를 활용해 암 치료 분야를 혁신 중인 백승욱 루닛 의장의 프레젠테이션도 참석자들의 주목을 받았다. 

찰리 최 로보AI(LOVO AI) 공동창업자, 브랜든 리 스마트마인드 공동창업자, 전병곤 프렌들리AI CEO도 발표를 맡아 최신 AI 기술에 대한 인사이트를 공유했다.

이날 행사를 총괄한 공경록 A2G 대표는 “기술력, 잠재력을 갖춘 한국 B2B 기업이 미국에 진출, 성장할 수 있도록 지원하는 게 A2G의 사명”이라며 “더 많은 창업가, 한국인들이 실리콘밸리를 비롯한 큰 시장에서 더 큰 꿈을 펼칠 수 있도록 돕겠다”고 말했다.