마크 저커버그 메타 CEO는 19일 IT 전문 팟캐스트 채널 ‘드와르케시’에 출연해 “라마3 405B를 현재 훈련하고 있다. 훈련 단계에서 이미 MMLU(대규모 다중작업 언어 이해) 85%를 기록했다”며 이같이 밝혔다. 라마3 405B는 AI 모델의 규모를 비교하는 기준 중 하나인 매개변수(parameters)가 4050억 개인 모델이다. 메타는 전날 차세대 개방형 AI 모델인 라마3 모델 중 매개변수 80억 개(8B) 버전, 700억 개(70B) 버전 두 가지를 먼저 공개했다. AI 업계에서는 “메타 라마가 AI 모델의 판도를 바꾸고 있다”는 평가가 나왔다. 강력한 성능의 개방형 AI 모델인 라마3가 AI 기술 및 산업 트렌드에 어떤 영향을 미치게 될지 3가지 시사점을 중심으로 살펴봤다.
메타가 차세대 AI 칩 ‘MTIA(Meta Training and Inference Accelerator, 메타 학습 및 추론 가속기)’ 최신 버전을 공개했다. 전날 구글과 인텔이 각각 새로운 AI 반도체를 공개한 가운데, 빅테크와 반도체 업체 간의 칩 개발 경쟁이 가열되는 양상이다. 메타는 10일(현지시각) 회사 블로그를 통해 AI 작업용으로 설계된 맞춤형 차세대 MTIA 칩의 사진과 자세한 제원을 공개했다. 2023년 5월 1세대 제품인 MTIA v1을 공개한 지 1년여 만의 신제품이다. 메타에 따르면 새로운 MTIA 칩은 전 세대 제품 대비 컴퓨팅 및 메모리 대역폭이 두 배 이상 커졌다. 메타가 개발한 고품질의 추천 광고 및 순위 모델을 효율적으로 구동할 수 있도록 설계됐다는 점이 특징이다. 내부 테스트 결과 차세대 MTIA는 1세대 모델 대비 4개 AI 모델에서 3배 나은 성능을 기록했다. 메모리 반도체로는 디램(DRAM)을 수직으로 여러 개 쌓은 HBM(고대역폭 메모리)가 아닌 SRAM이 사용됐으며 전 세대 칩 대비 SRAM 용량이 두 배로 늘었다. SRAM과 함께 LPDDR5 디램 용량도 두 배로 확장한 칩이다. TSMC의 7나노(10억분의 1미터, 반도체 회로 선폭을 지칭) 공정으로 생산됐으며 최대 72개의 가속기를 담을 수 있는 대형 랙(rack) 기반 시스템도 함께 개발했다. 여러 개의 가속기를 하나의 가속기처럼 묶어 더 강력한 연산 성능을 제공하기 위한 설계다. 메타 관계자는 “MTIA는 AI 인프라에 대한 메타의 투자 확대의 일환”이라며 “미래 AI 인프라를 보완해 서비스 전반에 걸쳐 새롭고 더 나은 경험을 제공하겠다”고 밝혔다.
나우누리를 아시나요? 나우누리는 25년 전에 전화로 접속하던 PC통신 서비스다. 모든 것이 텍스트로 되어 있었다. 그런데 지금 인터넷에서 하는 거의 모든 것을 할 수 있는 공간이기도 했다. 이메일도 되고 채팅도 되고, 커뮤니티도 만들 수 있었다. 모든 것이 가능했다. 하지만 사용자 경험은 당시엔 최선이었겠지만 지금 기술로 돌이켜보면 '추억꺼리' 그 이상도 이하도 아니다. 느린 속도에, 마우스도 안 써도 되고, 화면 디자인은 텍스트로만 되어 있어 매우 조잡했다.오늘날의 최신 기술 챗GPT는 어떤가? PC 통신은 상상할 수 없는 기술이다. 코딩도 하고 글도 쓰고 미래도 예측할 수 있다. 내 일의 많은 부분을 대신해 주고 있다. 그런데 아직 사용자 경험은 거의 텍스트로만 이루어져 있다.PC 통신 '나우누리'는 오래가지 못했다. 인터넷 등장과 함께 사라졌다. 지금은 인터넷 없이는 아무것도 못 하는 세상이 되었다. 이제 AI에도 그러한 시대가 급속히 다가오고 있다.
메타가 이미지, 오디오, 비디오를 포함한 AI 생성 콘텐츠에 대한 ‘라벨 표시(Labeling, 꼬리표 달기)’를 본격화한다. AI 기술로 만들어 낸 이미지, 영상, 목소리가 실제와 구별이 어려울 정도로 정교해짐에 따라 혼동을 줄이기 위한 조치다. 메타는 5일 회사 블로그를 통해 “감독위원회(oversight board)의 의견에 따라 페이스북, 인스타그램, 스레드(threads)에 게시되는 조작된 콘텐츠를 처리하는 방식을 변경하고 있다”며 “5월부터 AI가 생성한 콘텐츠에 ‘AI로 제작됨(Made with AI)’ 라벨을 붙이기 시작할 예정”이라고 밝혔다.
아마존이 AI 스타트업 앤트로픽(Anthropic)에 27억5000만달러(약 3조7200억원)를 추가 투자, 총 40억달러(약 5조4000억원)에 달하는 투자를 완료했다. 아마존은 지난해 9월 25일 앤트로픽에 12억5000만달러를 투자하며 향후 최대 40억달러까지 투자할 수 있다고 발표한 바 있다. 아마존은 이번 투자로 앤트로픽 지분 일부를 보유하게 됐다. 다만 이사회에는 참여하지 않는다.아마존은 27일(현지시각) “오늘 27억5000만달러를 추가로 투자, 총 40억달러 투자를 완료했다”고 밝혔다. 아마존에서 AI 비즈니스를 이끄는 스와미 시바수브라마니안 AWS(아마존웹서비스) 데이터 및 AI 부문 부사장은 “AWS는 전 세계 모든 규모의 조직이 고급 생성 AI 애플리케이션을 배포하도록 지원하면서 앤트로픽과 역사를 함께 해왔다”며 “생성 AI에 대한 비전을 가지고 최근 ‘클로드3(Claude 3)’를 출시한 앤트로픽과 트레이니엄(AI 학습용) 칩, 아마존 베드록 같은 동급 최강 인프라를 가진 아마존의 협업으로 흥미로운 기회가 열리고 있다”고 강조했다.
애플이 연례 개발자 컨퍼런스인 ‘WWDC24’ 일정을 확정했다. 올해 WWDC에서는 그간 마이크로소프트, 구글 등에 뒤처졌다고 평가됐던 애플의 자체 AI 전략을 발표할 것이란 관측이 제기된다. 애플은 오는 6월 10일부터 14일까지 WWDC를 온오프라인으로 개최한다고 26일(현지시각) 발표했다. 일부 개발자, 학생들은 실리콘밸리 쿠퍼티노에 위치한 ‘애플 파크’에서 개막일에 열리는 특별 이벤트에 참여할 수 있는 기회가 제공된다.온라인 컨퍼런스는 누구나 무료로 시청할 수 있다. 애플 측은 “최신 iOS(아이폰 운영시스템), iPadOS(아이패드 운영시스템), macOS, watchOS, tvOS, visionOS의 발전된 기능을 집중 공개할 것”이라고 밝혔다. 애플이 제공하는 새로운 도구, 프레임워크 및 기능에 대한 통찰력을 얻을 수 있으며 오프라인 행사 참여자의 경우 애플에서 근무하는 관련 분야 전문가와의 만남도 계획돼 있다. 수전 프레스콧 애플 월드와이드 개발자 관계 담당 부사장은 “일주일 동안 WWDC24에서 전 세계 개발자들과 함께할 수 있게 돼 매우 기쁘다”며 “WWDC는 새로운 아이디어를 공유하고, 놀라운 개발자들이 더욱 멋진 작품을 만들 수 있도록 혁신적인 도구와 자원을 제공하는 데 중점을 두고 있다”고 설명했다.
