새로운 LLM ‘센스노바 5.0’ 발표 당일 홍콩 증시에 상장돼 있는 중국 최대 AI 기업 센스타임의 주가는 전날 종가 대비 36% 급등했습니다. GPT-4 터보를 뛰어넘은 벤치마크 점수를 기록했다는 점에 업계는 물론 투자자들의 기대감이 반영된 것입니다. 쉬 리 센스타임 CEO는 “센스노바 5.0의 창의적 글쓰기, 추론 능력은 크게 향상됐다. 동급 최고의 수학, 코딩 추론 기능을 자랑한다”고 강조했습니다.발표 현장에서 공유된 자료, 데이터를 살펴보면 센스노바 5.0의 MMLU(대규모 다중작업 언어 이해) 점수는 오픈AI의 GPT-4 터보, 앤트로픽의 클로드3 오푸스, 최근 공개된 메타의 라마3 70B를 모두 능가했습니다. 수학을 제외한 대부분의 영역에서 가장 높은 점수를 기록한 것으로 전해집니다.
인간처럼 사고하고 행동할 수도 있는 인공지능(AI), '일반인공지능(AGI)'에 대한 기대와 두려움이 커지는 가운데, AI가 이미 인간의 학습능력을 침범하기 시작했다는 주장이 나왔다. 이때 눈에 띄는 변화는 AI의 추격이 아닌 인간 스스로의 후퇴다. 이장선(학계 활동명: 칼 스트라토스) 럿거스대학교(뉴저지주 주립대) 교수는 AGI 시대에 앞서 인간이 경계해야 할 점으로 ‘생각의 자동화’를 꼽았다. 미국 고등교육 현장에서 이미 이를 피부로 느끼고 있다. 챗GPT 등으로 학교 과제가 무의미해지고, 인간의 학습 능력이 쇠퇴하기 시작했다는 것. 이 교수는 미국 컬럼비아대학교를 거쳐 현재 럿거스 대학교에서 AI 비지도 학습법 및 지식사용모델 개발을 연구하는 미국 내에서도 손꼽히는 AI 전문가다.
메타 라마3는 오픈 소스일까요? 팩트를 체크해 보면 답은 ‘아니오’에 가깝습니다. “공개적으로 설계에 접근할 수 있어 누구나 해당 기술을 수정하고 공유할 수 있다”는 오픈 소스의 정의에 해당하지 않기 때문입니다. 결정적으로 라마3는 소스 코드가 공개돼 있지 않습니다. 소스 코드가 공개돼 있느냐, AI 모델을 훈련한 데이터가 공개돼 있느냐, AI 모델의 특성 및 성능을 결정하는 가중치(weights)가 공개돼 있느냐 등 세부 항목을 따져서 ‘개방성’ 정도를 평가하는 차트가 등장할 정도로 ‘개방성’은 AI 업계의 중요 이슈가 되고 있습니다.
마크 저커버그 메타 CEO는 19일 IT 전문 팟캐스트 채널 ‘드와르케시’에 출연해 “라마3 405B를 현재 훈련하고 있다. 훈련 단계에서 이미 MMLU(대규모 다중작업 언어 이해) 85%를 기록했다”며 이같이 밝혔다. 라마3 405B는 AI 모델의 규모를 비교하는 기준 중 하나인 매개변수(parameters)가 4050억 개인 모델이다. 메타는 전날 차세대 개방형 AI 모델인 라마3 모델 중 매개변수 80억 개(8B) 버전, 700억 개(70B) 버전 두 가지를 먼저 공개했다. AI 업계에서는 “메타 라마가 AI 모델의 판도를 바꾸고 있다”는 평가가 나왔다. 강력한 성능의 개방형 AI 모델인 라마3가 AI 기술 및 산업 트렌드에 어떤 영향을 미치게 될지 3가지 시사점을 중심으로 살펴봤다.
구글이 자사 클라우드 제품에 생성인공지능(Generative AI) 기능을 대거 도입했다. 클라우드 제품에 대형언어모델(LLM) ‘제미나이(Gemini)’를 전면 적용했다. 코드작성 보조도구 ‘제미나이코드어시스트’, AI 앱 최적화 프로그램 ‘제미나이클라우드어시스트’ 등이 그 예다.‘구글 분산형 클라우드(Google Distributed Cloud, GDC)’이라는 큰 체제 하에 소버린 클라우드(Google Sovereign Clouds), 크로스 클라우드(Cross-Cloud) 등을 제시하며 각 고객사가 각자 사정에 맞게 ‘맞춤화’할 수 있는 기능을 강조한 게 특징이다. 여기에 더해 인프라 단에는 엔비디아의 블랙웰 등을 도입, 생성AI 클라우드 제품에서 기술적 우위도 강조했다. 구글은 지난 2월 개인대상(B2C) 서비스 주력 제품이었던 제미나이가 부정확한 역사적 이미지 생성으로 논란을 겪은 바 있다. 이번 발표에서 기업별 맞춤형 생성AI 기능을 강화한 클라우드 제품을 강조하며 기업대상(B2B) 서비스로 돌파구를 마련하겠다는 의지로 풀이된다. 제미나이가 소비자용 시장에선 고전하고 있지만, ‘기업용 시장에선 다르다’는 게 토마스 쿠리안 구글 클라우드 대표의 말이다.
메타가 이미지, 오디오, 비디오를 포함한 AI 생성 콘텐츠에 대한 ‘라벨 표시(Labeling, 꼬리표 달기)’를 본격화한다. AI 기술로 만들어 낸 이미지, 영상, 목소리가 실제와 구별이 어려울 정도로 정교해짐에 따라 혼동을 줄이기 위한 조치다. 메타는 5일 회사 블로그를 통해 “감독위원회(oversight board)의 의견에 따라 페이스북, 인스타그램, 스레드(threads)에 게시되는 조작된 콘텐츠를 처리하는 방식을 변경하고 있다”며 “5월부터 AI가 생성한 콘텐츠에 ‘AI로 제작됨(Made with AI)’ 라벨을 붙이기 시작할 예정”이라고 밝혔다.
바야흐로 인공지능(AI) 인프라를 향한 군비 경쟁 시대다. 대형언어모델(LLM)을 훈련하는데 필수재인 AI 칩 전쟁이 국가전으로 확대되는가 하면 한편에서는 데이터 확보 전쟁이 치열하다. 언어모델은 인간의 언어, 행동, 관습 등을 모방하는 게 기본 골자다. 그 때문에 연구자료, 기사, 위키피디아 등 인터넷에서 생성된 텍스트를 최대한 많이 넣어(인풋) 훈련해야 최고의 결과물(아웃풋)을 얻을 수 있다. 그러나 AI칩처럼 AI 모델 고도화에 필요한 고품질 데이터에도 품귀 현상이 벌어지고 있다. 절대적인 양이 부족한 데다 저작권 문제 등으로 데이터 확보가 더 어려워진 것. 이에 마이크로소프트, 오픈AI, 구글 등 기업은 데이터 원천소스를 늘리는 한편, 인공으로 데이터를 만드는 ‘합성데이터(synthetic data)’에 주목하고 있다.
미국의 데이트 앱에서 자기소개 프로필을 만들 때 흔히 보이는 즉문즉답 예시 중 하나는 이렇다. “만약 당신이 내 PC에 뜬 광고를 본다면 나를 이렇게 생각할 것(if you saw the targeted ads I get, you’d think I'm...)”.개인화 광고로 나를 소개하는 식이다. 알고리즘이 나를 정의하는 시대다.분명한 건 앱과 알고리즘은 사람을 만나는 방식을 오프라인에서 온라인으로 바꿨다는 점이다. 이는 지금도 진행 중이다. <지난편 보기> ① 연애에 완벽주의가 들어서다
아마존이 AI 스타트업 앤트로픽(Anthropic)에 27억5000만달러(약 3조7200억원)를 추가 투자, 총 40억달러(약 5조4000억원)에 달하는 투자를 완료했다. 아마존은 지난해 9월 25일 앤트로픽에 12억5000만달러를 투자하며 향후 최대 40억달러까지 투자할 수 있다고 발표한 바 있다. 아마존은 이번 투자로 앤트로픽 지분 일부를 보유하게 됐다. 다만 이사회에는 참여하지 않는다.아마존은 27일(현지시각) “오늘 27억5000만달러를 추가로 투자, 총 40억달러 투자를 완료했다”고 밝혔다. 아마존에서 AI 비즈니스를 이끄는 스와미 시바수브라마니안 AWS(아마존웹서비스) 데이터 및 AI 부문 부사장은 “AWS는 전 세계 모든 규모의 조직이 고급 생성 AI 애플리케이션을 배포하도록 지원하면서 앤트로픽과 역사를 함께 해왔다”며 “생성 AI에 대한 비전을 가지고 최근 ‘클로드3(Claude 3)’를 출시한 앤트로픽과 트레이니엄(AI 학습용) 칩, 아마존 베드록 같은 동급 최강 인프라를 가진 아마존의 협업으로 흥미로운 기회가 열리고 있다”고 강조했다.