챗GPT가 촉발한 ‘생성 AI(인공지능) 혁명’의 거대한 물결이 반도체 시장도 예외 없이 흔들고 있다. 지난 2012년 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 모두를 놀라게 했다. AI 연구에 불을 붙인 알렉스넷은 엔비디아의 게임용 GPU(그래픽처리장치) 칩을 이용해 개발된 CNN(Convolutional Neural Network, 합성곱신경망) 아키텍처였다. 새 알고리듬(CNN)이 제공하는 화상 인식 기술이 주는 가능성에 매료된 산업계는 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들게 됐다. 대형 클라우드 회사들과 미국·영국 스타트업들이 수천억 원이 넘는 투자를 받았고, 침체해 있던 반도체 생태계에 활력이 생겼다. 이런 반도체의 주요 사용처로서는 자율주행차를 포함한 이미지·영상 인식 분야가 꼽혔다. 대표적인 회사들로는 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등이 있으며, 주요 클라우드 서비스회사들 역시 다 자체적으로 AI 반도체를 개발해 왔다.이들 회사들이 경쟁력으로 주장하는 내용은 “엔비디아의 GPU는 원래 게임 소프트웨어를 위해 개발된 것으로서 AI는 나중에 우연히 발견된 사용 분야다. 처음부터 AI만을 목표로 설계해 최적화한다면 훨씬 적은 전력을 사용하는 고성능의 AI 반도체를 만들 수 있다”는 것이다. 이는 상당히 설득력 있는 주장이었다. 이들은 그들의 주장대로 저전력 고성능의 AI 반도체를 발표해 왔다. 그런데 이런 AI 반도체 회사들이 지금 흔들리고 있다. 발단은 13개월 전에 발표된 챗GPT가 초고속으로 사용자를 늘려가며, 벌써 10억 명이 사용하는 서비스가 됐다는 점이다. 챗GPT는 트랜스포머라는 새로운 알고리듬을 사용한다. 핵심은 이 알고리듬은 물론, 챗GPT 비슷한 AI 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다는 것이다. 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어졌다. 이전 알고리듬에만 최적화돼 있어 수년간 수천억 원의 투자를 하면서 개발해 온 반도체 설계방향이 거대한 유턴을 해야만 하는 상황이 됐다. 결과적으로 자금 사정이 어려워진 회사들도 생겨나게 됐다. 그렇다면 엔비디아는 이러한 거대한 변화에 어떻게 대응하면서 성공할 수 있었을까?
