메타 라마3는 오픈 소스일까요? 팩트를 체크해 보면 답은 ‘아니오’에 가깝습니다. “공개적으로 설계에 접근할 수 있어 누구나 해당 기술을 수정하고 공유할 수 있다”는 오픈 소스의 정의에 해당하지 않기 때문입니다. 결정적으로 라마3는 소스 코드가 공개돼 있지 않습니다. 소스 코드가 공개돼 있느냐, AI 모델을 훈련한 데이터가 공개돼 있느냐, AI 모델의 특성 및 성능을 결정하는 가중치(weights)가 공개돼 있느냐 등 세부 항목을 따져서 ‘개방성’ 정도를 평가하는 차트가 등장할 정도로 ‘개방성’은 AI 업계의 중요 이슈가 되고 있습니다.
마크 저커버그 메타 CEO는 19일 IT 전문 팟캐스트 채널 ‘드와르케시’에 출연해 “라마3 405B를 현재 훈련하고 있다. 훈련 단계에서 이미 MMLU(대규모 다중작업 언어 이해) 85%를 기록했다”며 이같이 밝혔다. 라마3 405B는 AI 모델의 규모를 비교하는 기준 중 하나인 매개변수(parameters)가 4050억 개인 모델이다. 메타는 전날 차세대 개방형 AI 모델인 라마3 모델 중 매개변수 80억 개(8B) 버전, 700억 개(70B) 버전 두 가지를 먼저 공개했다. AI 업계에서는 “메타 라마가 AI 모델의 판도를 바꾸고 있다”는 평가가 나왔다. 강력한 성능의 개방형 AI 모델인 라마3가 AI 기술 및 산업 트렌드에 어떤 영향을 미치게 될지 3가지 시사점을 중심으로 살펴봤다.
생성형 AI 산업 헤게모니 확보를 위한 세계 각국의 경쟁이 가열되고 있다. 특히 생성 AI 개발·운영을 위한 핵심 인프라로 여겨지는 ‘AI 반도체’ 분야에서 이런 움직임이 두드러지는 분위기다. 챗GPT 개발사인 오픈AI는 최근 중동, 일본 투자사와 AI 반도체 생산, 조달을 위한 네트워크 구축에 나섰으며 세계 최대 AI 반도체 업체 엔비디아를 이끄는 젠슨 황 CEO는 미국 정부의 반도체 규제가 시작된 지 4년 만에 중국을 방문해 화제에 오르기도 했다. 샘 알트만 오픈AI CEO의 방한에도 이목이 집중된다. 샘 알트만 CEO는 이번 주 한국을 방문해 삼성전자, SK하이닉스 등과 AI 반도체 개발 및 공급 대책을 논의할 것으로 알려졌다.