Tags
안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다.한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 빅테크, 유망 스타트업의 움직임을 취재하는 더밀크만의 인사이트를 추가했습니다. 보다 자세한 내용은 더 알아보기 링크로 확인하실 수 있습니다.
박원익 2024.04.15 18:02 PDT
메타가 차세대 AI 칩 ‘MTIA(Meta Training and Inference Accelerator, 메타 학습 및 추론 가속기)’ 최신 버전을 공개했다. 전날 구글과 인텔이 각각 새로운 AI 반도체를 공개한 가운데, 빅테크와 반도체 업체 간의 칩 개발 경쟁이 가열되는 양상이다. 메타는 10일(현지시각) 회사 블로그를 통해 AI 작업용으로 설계된 맞춤형 차세대 MTIA 칩의 사진과 자세한 제원을 공개했다. 2023년 5월 1세대 제품인 MTIA v1을 공개한 지 1년여 만의 신제품이다. 메타에 따르면 새로운 MTIA 칩은 전 세대 제품 대비 컴퓨팅 및 메모리 대역폭이 두 배 이상 커졌다. 메타가 개발한 고품질의 추천 광고 및 순위 모델을 효율적으로 구동할 수 있도록 설계됐다는 점이 특징이다. 내부 테스트 결과 차세대 MTIA는 1세대 모델 대비 4개 AI 모델에서 3배 나은 성능을 기록했다. 메모리 반도체로는 디램(DRAM)을 수직으로 여러 개 쌓은 HBM(고대역폭 메모리)가 아닌 SRAM이 사용됐으며 전 세대 칩 대비 SRAM 용량이 두 배로 늘었다. SRAM과 함께 LPDDR5 디램 용량도 두 배로 확장한 칩이다. TSMC의 7나노(10억분의 1미터, 반도체 회로 선폭을 지칭) 공정으로 생산됐으며 최대 72개의 가속기를 담을 수 있는 대형 랙(rack) 기반 시스템도 함께 개발했다. 여러 개의 가속기를 하나의 가속기처럼 묶어 더 강력한 연산 성능을 제공하기 위한 설계다. 메타 관계자는 “MTIA는 AI 인프라에 대한 메타의 투자 확대의 일환”이라며 “미래 AI 인프라를 보완해 서비스 전반에 걸쳐 새롭고 더 나은 경험을 제공하겠다”고 밝혔다.
박원익 2024.04.10 17:17 PDT