일리야 수츠케버

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 저는 24일(현지시각) 샌프란시스코에서 열린 생성 AI 개발자 행사에 다녀왔는데요. LLM(대규모 언어 모델) 앱 개발 솔루션 업체 랭체인(LangChain)의 CEO 해리슨 체이스, 데이터스택스(DataStax) CEO 쳇 카푸어, 엔비디아 생성 AI 데이터 부문 시니어 디렉터 제인 스코크로프트 등 산업 최전선에서 활약하는 업계 전문가들이 모이는 자리였습니다.  놀라웠던 건 현장에 수백 명이 몰릴 정도로 생성 AI의 열기가 여전히 뜨거웠다는 점입니다. RAG(검색증강생성) 기술을 활용한 새로운 도구가 발표되자 청중석에서 큰 환호가 터져 나오기도 했습니다. “우리는 아직 생성 AI 혁신의 시작 단계에 있다”라는 게 이 자리에 모인 개발자, 투자자들의 공통된 인식이었습니다. 챗GPT 공개 후 1년 6개월이 흐른 지금까지 실리콘밸리에서 이런 분위기가 이어지는 이유는 무엇일까요? 오늘은 생성 AI 2막에 접어든 현재 업계 지형도가 어떻게 변하고 있는지 보여주는 소식들을 모았습니다. 매주 수요일 발행하는 ‘AI인사이트’를 통해 중요한 신호, 의미를 놓치지 말고 확인하세요!

오픈AI의 공동 창립자 중 한 명인 일리야 수츠케버가 오픈AI를 떠난 지 한 달 여만에 자신의 새로운 AI 스타트업을 설립했다. 일리야 수츠케버는 19일(현지시각) 웹페이지 성명을 통해 “초지능(Superintelligence)은 가까이 있다”며 ‘세이프 슈퍼인텔리전스(SSI, Safe Superintelligence Inc.)’를 설립했다”고 발표했다. 성명에는 일리야 수츠케버 외에 다니엘 그로스, 다니엘 레비가 함께 이름을 올렸다. 다니엘 그로스는 실리콘밸리 기반 스타트업 액셀러레이터(accelerator, 초기 투자 및 지원 업체)인 와이콤비네이터(Y Combinator)의 파트너로 활동한 바 있다. 다니엘 레비는 오픈AI 엔지니어 출신이다. 수츠케버는 오픈AI에서 수석과학자로 활동하며 AI 모델의 안전을 담보하는 ‘슈퍼얼라인먼트’ 팀을 이끌어 온 바 있다. 그와 함께 슈퍼얼라인먼트 팀을 공동으로 이끌었던 얀 라이크 역시 지난 5월 오픈AI를 떠났다. 얀 라이크는 현재 오픈AI의 경쟁사로 꼽히는 앤트로픽(Anthropic)에서 일하고 있다. 

챗GPT 개발사 오픈AI가 생성AI 관련 기술 개발 과정에서 안전 및 윤리 문제를 점검하기 위해 '새로운 안전·보안위원회(safety and security)'를 구성했다고 밝혔습니다.오픈AI의 자사 블로그를 통해 브렛 테일러 이사회 의장과 샘 알트만 CEO, 애덤 단젤로 이사 등이 위원회를 이끌 것이라고 알렸는데요. 새 위원회의 첫 번째 과제는 "오픈AI의 프로세스와 안전장치를 평가하고 발전시키는 것"이라고 강조했습니다. 오픈AI의 새로운 안전·보안위원회 구성은 기존 안전팀이 해체되고, 새 AI 모델 'GPT-4o'의 음성 모방 논란이 제기된 가운데 등장했습니다. 오픈AI는 지난 12일 공개한 새 AI 모델 GPT-4o의 음성이 미국 영화배우 스칼렛 요한슨을 도용했다는 논란에 휩싸여있습니다. '스카이'라 불리는 해당 모델의 음성이 영화 <그녀>의 AI 목소리 주인공인 스칼렛 요한슨과 흡사하다는 지적이 나왔고, 요한슨은 법적 대응에 나서겠다고 밝히면서 음성서비스는 중단된 상태입니다. 👉 GPT-4o 법적 분쟁 이후 달라진 행보... 90일 간 안전 위원회 활동 선언 앞서 오픈AI는 AI의 장기적인 위험을 연구하는 슈퍼얼라이먼트(superalignment) 팀 일부를 다른 팀으로 재배치하는 등 안전팀을 해체한 것으로 알려졌는데요. 팀을 이끌었던 오픈AI 수석과학자 일리야 수츠케버와 또 다른 임원인 얀 레이케가 회사를 떠났습니다. 레이케는 "사람보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력이다"라며 "오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다"고 비판하기도 했는데요. 오픈AI는 안전·보안위원회 출범과 함께 새로운 AI 모델에 대한 훈련을 시작했다고 밝혔습니다. 이들은 "다음 프런티어 모델을 훈련하기 시작했다"며 "그 결과물이 범용인공지능(AGI, 사람과 유사하거나 더 높은 지능을 갖춘 AI)으로 가는 다음 단계의 역량을 이끌 것으로 기대한다"고 설명했습니다. 알트만 CEO는 "우리는 AGI를 만들고 싶다"며 "이를 위해 우리 스스로 뭔가를 구축하거나 파트너와 함께하거나 무엇이든 다 할 것이다"라고 밝힌 바 있습니다. 오픈AI의 차기 AI 모델인 GPT-5는 이르면 올여름 출시될 예정입니다. 

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다.한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 빅테크, 유망 스타트업의 움직임을 취재하는 더밀크만의 인사이트를 추가했습니다. 보다 자세한 내용은 더 알아보기 링크로 확인하실 수 있습니다.

뷰스레터 구독자 여러분 안녕하세요? 박원익입니다.놀랐습니다. 지난 금요일(17일, 현지시각) 저는 코넬 클럽(Cornell Club of New York)에서 열리는 스타트업 IR 행사에 참여하기 위해 맨해튼 거리를 걷다 “샘 알트만(Sam Altman) 오픈AI CEO가 회사에서 쫓겨났다”는 속보를 접했습니다.사실이었습니다. 오픈AI 회사 공식 블로그와 X(옛 트위터) 계정에 ‘리더십 교체 발표’라는 글이 올라온 시각은 오후 3시 28분(서부 기준 낮 12시 28분). 약 20분 전에 발표된 소식은 급속도로 퍼져 나갔습니다. 충격이었습니다. 10일 전 개최한 개발자 컨퍼런스 ‘오픈AI 데브데이(OpenAI DevDay)’ 기조연설자로 등장, 스티브 잡스 못지않은 뜨거운 호응을 받았고 전날(16일) 샌프란시스코에서 열린 아시아태평양경제협력체(APEC) 정상회의에도 참석했기 때문입니다. 그는 전혀 인지하지 못했습니다. 시간이 흐르면서 이 일은 오픈AI 공동창업자이자 수석과학자 일리야 수츠케버(Ilya Sutskever)가 주도한 일종의 ‘쿠데타’임이 드러났습니다. 샘 알트만과 오픈AI 내부에 무슨 일이 있었던 것일까요? 더밀크가 주말 동안 미국 현지에서 취재·분석한 풀 스토리를 전해 드립니다.

챗GPT(ChatGPT) 개발사 오픈AI(OpenAI)의 설립자 샘 알트만이 CEO 자리에서 쫓겨났다. 오픈AI 이사회는 17일(현지시각) 현 CEO인 샘 알트만의 사임을 결정했다고 발표했다. 후임 임시 CEO로는 현재 최고기술책임자(CTO)를 맡고 있는 미라 무라티(Mira Murati)가 내정됐다. 오픈AI 이사회는 성명을 통해 “그가 일관되게 솔직하지 못하다고 판단, 이사회 수행 능력을 저해한다는 결론을 내렸다”고 밝혔다. 그가 오픈AI를 계속 이끌게 둘 수 없었다는 설명이다. 이사회는 “알트만의 사임은 이사회의 신중한 검토 절차에 따른 것”이라며 “후임 CEO를 찾기 위한 검색 프로세스가 진행 중”이라고 했다. 이사회는 이어 “오픈AI는 AGI(범용인공지능)로 모든 인류에게 혜택을 준다는 사명을 달성하기 위해 설립됐다. 이사회는 이 사명을 완수하기 위해 최선을 다할 것”이라며 “오픈AI의 설립과 성장에 기여한 샘 알트만의 공헌에는 감사하지만, 앞으로 나아가기 위해서는 새로운 리더십이 필요하다”고 했다.  이사회는 또 “미라 무라티는 회사의 연구, 제품, 안전 부서를 이끌고 있는 리더로서 임시 CEO를 맡을 충분한 자격이 있다”며 “그녀가 전환기에 오픈AI를 잘 끌어나갈 것이라고 확신한다"고 덧붙였다.👉관련 기사: 미라 무라티 임시 CEO 내정자는 누구?

일리야 수츠케버 오픈AI 공동창업자 겸 수석과학자는 3월 22일(현지시각) 진행된 젠슨 황 엔비디아 CEO와의 대담에서 “향후 2년 내에 많은 발전을 보게 될 것”이라며 이같이 말했다. 가까운 미래에 ‘할루시네이션(hallucination, 환각)’을 해결할 수 있다고 예측한 것이다. 오픈AI, 구글 등이 선보인 ‘챗GPT(ChatGPT)’, ‘바드(Bard)’ 같은 대화형 AI, 거대언어모델(LLM)은 사람처럼 말(text, 텍스트)을 만들어내는 강력한 성능을 내지만, 그와 동시에 할루시네이션 문제를 일으킨다는 비판을 받아왔다. 할루시네이션이란 2018년 구글 AI 연구원들에 의해 대중화된 개념으로 AI가 제시한 그럴듯해 보이는 답변(output)이 실제로는 잘못됐거나 부정확해 혼동을 초래하는 현상을 말한다. 언어모델은 빈칸에 들어갈 말을 예상해 채우는 방식으로 작동하는데, 관련 데이터가 부족하거나 모호할 경우 이런 현상이 나타난다.실제로 챗GPT와 대화를 나눠보면 잘못된 답을 제시하는 사례가 적지 않다. 정보 수집, 교육 등의 목적으로 활용하려면 사실 확인 및 검증이 필요하다.