RAG

Since OpenAI launched ChatGPT on November 30, 2022, the world of generative AI has exploded. Tools like Claude, CoPilot, Perplexity, MidJourney, and Firefly have reshaped industries from writing and translation to coding and design.With AI innovation surging, the question for individuals and businesses is clear: how can generative AI enhance personal competitiveness and organizational success?“AI must solve real-world problems to create real value,” says Kyungil Lee, CEO of Saltlux, a leading generative AI company based in South Korea. Interview with TheMiilk during a visit to the U.S.,Lee stressed that AI isn’t just a playground for experimentation. “AI literacy is about much more than using prompts or tools—it’s about defining clear problems and leveraging AI to solve them,” he explained.AI Literacy: Problem-Solving in PracticeTrue AI literacy, according to Lee, starts with the ability to identify and articulate challenges. “Being able to ask specific questions and communicate those to an LLM (large language model) is critical,” he says. Lee points to SK Group’s AI disruption initiative as a model for applying AI to real-world challenges. “Their approach of defining practical problems and solving them with AI creates valuable use cases that others can learn from.”The key, Lee believes, lies in accumulating problem-solving experience. “This process not only sharpens your understanding of AI but also maximizes its effectiveness,” he said.A New Player in AI SearchSaltlux, under Lee’s leadership, is taking a step forward in the generative AI space with its latest offering, Goover, a search and research platform. Introduced in June through Saltlux’s U.S. subsidiary, the tool is designed to provide what Lee calls a 'Re-Search', combining traditional search with advanced AI insights. Available in both Korean and English, Goober’s service has also expanded to mobile platforms.What sets Goover apart? According to Lee, it’s the combination of Saltlux’s proprietary LLM, called LUXIA, and its established expertise in vector search technology. Goover navigates multilingual web information and even paid subscription services, presenting users with precise answers and trustworthy sources.“In our own tests, Goober achieved a 98% accuracy rate and a 97% recency rate in Korean search queries,” Lee said, noting that its performance rivals that of ChatGPT and surpasses Perplexity in some areas. Beyond search, Goover offers features like auto-generated reports and personalized content recommendations, aligning with the growing demand for hyper-personalized digital experiences.The Future of Generative AIDuring a visit to Goover’s Silicon Valley HQ, Lee reflected on the future of the AI industry. While generative AI tools continue to evolve at breakneck speed, the Saltlux CEO emphasized that their ultimate success will hinge on how effectively they address real-world challenges.“AI tools are no longer just helpful—they’re becoming essential,” Lee said. “The organizations and individuals who can combine problem-solving skills with AI capabilities will lead in this era of disruption.”As companies like Saltlux push the boundaries of what generative AI can achieve, the challenge for users is clear: to harness these tools not just for exploration but for meaningful impact. Whether through search, personalization, or industry-specific applications, AI’s transformative potential is only beginning to unfold.The following is the full interview between TheMiilk reporter Wonik Park and Saltlux Guber CEO Kyungil Lee.

‘챗GPT, 제미나이, 클로드, 코파일럿, 퍼플렉시티, 구버, 파이어플라이, 미드저니, 노션AI, 감마…’ 2022년 11월 30일 대화형 AI ‘챗GPT’가 출시된 이후 수많은 생성형 AI 도구가 등장했다. 검색, 글쓰기, 요약, 번역, 이미지 생성, 슬라이드 생성, 코딩에 이르기까지 분야도 다양하다. 매일 같이 새롭게 쏟아져 나오는 AI 도구를 어떻게 활용하면 좋을까. 생성형 AI 기술로 개인의 경쟁력을 높이고 조직의 성공을 이끌려면 어떤 접근법을 취해야 할까? 한국의 생성AI 기술과 시장을 이끌고 있는 솔트룩스의 이경일 대표는 미국에서 진행한 더밀크와 인터뷰에서 “실제 문제 해결에 AI를 사용해 보는 게 중요하다”고 강조했다. 단순 작업, 혹은 재미 삼아 AI 도구를 테스트 해보는 정도로는 큰 효용을 얻기 어렵다는 것이다. “AI 리터러시(literacy, 활용 능력)가 중요한 키워드가 되고 있지만, 프롬프트 입력볍, AI 도구 사용법을 익히는 게 전부는 아니다”라며 “AI를 100% 활용하려면 자신이 가진 문제를 명확히 정의하고, 그 문제를 AI로 풀어봐야 한다. 이건 연습이 필요하다”고 밝혔다.  이 대표는 SK그룹이 추진 중인 ‘AI 일방혁(일하는 방식의 혁신)’을 좋은 사례로 언급했다. SK그룹이 AI 일방혁 캠페인을 통해 실제 업무에서 해결해야 할 문제를 정의한 후 이를 AI로 해결, 사용 사례(use case)를 정립해 가고 있다는 설명이다. 그는 “구체적으로 질문하는 능력, 정의한 문제를 언어로 표현해서 LLM(대규모 언어 모델), AI와 대화하는 능력이 중요하다”며 “이런 과정을 통해 문제 해결 경험을 축적하면 AI 기술의 효용을 극대화할 수 있을 것”이라고 말했다.

"구글을 넘겠다" 구글이 검색엔진을 넘어 디지털 세상을 지배하기 시작하면서 지난 20년간 구글에 도전장을 내민 기업이 많았다. 심지어 페이스북도 '소셜 검색'을 내세우며 구글에 도전하기도 했다. 하지만 구글(알파벳)은 더 강해졌고 시가총액 1조 1,917억 달러(약 1,655조원)의 기업이 됐다. 하지만 생성AI 시대가 오면서 다른 스토리가 등장하고 있다. 챗GPT를 앞세운 오픈AI가 구글을 위협하고 있으며 향후 '검색 시장'에 뛰어드는 것은 시간 문제라고 보고 있다. 그럼에도 또 한번 '감히' 구글에 도전장을 내민 생성AI 스타트업이 있다. 바로 아라빈드 스리니바스가 창업한 퍼플렉시티(Perplexity)다. 오픈AI 출신 엔지니어들이 창업한 퍼플렉시티는 지난 2023년 처음 등장하자 마자 '환각 정보'가 지배하던 생성AI 모델을 극복하며 간결한 이용자환경(UX)과 출처를 밝힌 정보로 화제를 뿌렸다. 검색 증강 생성(RAG, Retrieval-Augmented Generation : 대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스) 기술을 개척하고 확장시키며 기업가치 30억달러(약 4조1300억원)를 인정받고 있다. 이는 올해 초 평가된 기업가치의 세 배에 달할 정도로 급속도로 성장하고 있는 것이다. 최근엔 AI의 위키피디아라고 할 수 있는 ‘페이지(Pages)’ 기능을 출시했다. 현재 월 1억 6900만 건의 쿼리(queries, 검색 요청)를 처리하고 있으며 월간 활성 사용자(MAU)는 1000만 명, 제품 유료 구독 등을 통해 연간 2000만달러 이상의 반복 매출(ARR)을 달성하고 있는 것으로 알려졌다. 그만큼 성장세가 가파르다는 것이다. 더밀크는 드미트리 쉬벨렌코 퍼플렉시티 최고비즈니스책임자(CBO)를 만나 인터뷰했다. 드미트리는 지난 13~14일 서울 코엑스에서 열린 넥스트라이즈 2024에 연사로 참여했으며 SK텔레콤과의 제휴를 발표하기도 했다. 드미트리 쉐벨렌코 CBO는 더밀크와 인터뷰에서 퍼플렉시티가 도입하려는 새 비즈니스 모델과 언론사 등 퍼블리셔와의 상생 모델에 대해 처음으로 밝혔다. [더밀크 관련기사]퍼플렉시티가 제시한 포털의 미래 "AI 시대의 야후나 구글은 아직 탄생하지 않았다"

구글이 새로운 AI 기반 답변 기능 ‘AI 오버뷰(Overview, 개요)’에 광고를 도입한다. 챗GPT 출현으로 AI 기반 대화형 챗봇이 부상하자 검색 광고 매출 하락을 막기 위해 본격적인 대응에 나선 것으로 풀이된다.

9일(현지시각) 라스베이거스 만달레이 베이 호텔. 구글 클라우드의 연례 기술 컨퍼런스 ‘구글 클라우드 넥스트 2024(Google Cloud Next 24)’ 기조연설 무대에 오른 아만다 루이스 구글 클라우드 디벨로퍼 애드버킷(Developer Advocate)은 “구글 클라우드 기반 ‘AI 에이전트(Agent, 비서)’ 기능을 갖춘 쇼핑몰을 이용하면 된다”며 이같이 말했다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다.한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 빅테크, 유망 스타트업의 움직임을 취재하는 더밀크만의 인사이트를 추가했습니다. 더 자세한 내용은 더 알아보기 링크로 확인하실 수 있습니다. 그럼 출발해 볼까요?

에이단 고메즈 코히어(Cohere) CEO는 4일 “커맨드 R+는 높은 효율성과 강력한 성능 사이에서 균형을 맞췄다”며 이같이 밝혔다.

김성훈 업스테이지 대표는 12일(현지시각) 미국 산호세 KIC 실리콘밸리에서 열린 ‘2024 L-Camp(엘캠프) 실리콘밸리’ 프로그램의 연사로 나서 “생성 AI 분야에 여전히 기회가 많다”며 이같이 말했다. 이번 세션은 창업자 후배와의 대화 형식으로 진행됐다. 김 대표는 전 세계에서 수많은 LLM이 쏟아져 나오고 있지만, 오픈AI의 GPT-4, 구글의 제미나이, 앤트로픽 클로드, 메타 라마 등 성능이 좋은 상위 10개 모델은 앞으로도 계속해서 사용자의 선택을 받을 것이란 예측이다. 김 대표는 특히 LLM이 향후 데이터베이스 관리를 돕는 소프트웨어 ‘DBMS(데이터베이스 관리 시스템)’와 비슷한 지위를 차지할 것으로 봤다. 오라클 데이터베이스, MySQL 등이 대표적 DBMS다. DBMS를 바탕으로 다양한 응용 프로그램이 작동한다. 김 대표는 “오라클 외에도 DBMS 회사가 꽤 많고, 잘 운영되고 있다”며 “LLM 분야 역시 톱5 안에 들면 안정적으로 비즈니스를 할 수 있을 것”이라고 했다.    AI 기술 스타트업 업스테이지는 홍콩과기대 컴퓨터공학과 부교수, 네이버 클로바 AI 총괄을 거친 김 대표가 2020년 설립했다. 2023년 12월 자체 개발 LLM ‘솔라(Solar)’를 공개, 오픈소스 AI 모델 순위 게시판인 ‘허깅페이스 오픈 LLM 리더보드’ 1위에 오르며 주목을 받았다. 한국에서 창업했지만 현재는 실리콘밸리에 상주하면서 글로벌 AI 사업 및 확장 기회를 찾고 있다. 한편, 김성훈 대표가 연사로 참여한 엘켐프 실리콘밸리는 롯데벤처스와 더밀크가 한국 스타트업의 글로벌 진출을 지원하기 위해 마련한 액셀러레이팅 프로그램이다. 미국 실리콘밸리 현지 한인 창업가 및 VC들과의 순도 높은 네트워킹 및 IR(투자설명회) 기회를 제공한다. 2022년에 시작해 올해로 3회를 맞았다.다음은 김 대표와 창업가들이 나눈 대화의 주요 내용이다.

대규모 언어 모델(Large Language Model)이 본격적으로 등장한 지 1년이 지났다. 챗GTP, 바드(Bard)와 같은 LLM은 이제 혁신 기술을 넘어 어떤 산업에서나 필수적인 비즈니스 요소로 자리잡았다. 실제 맥킨지의 AI 현황에 관한 연례 조사에 따르면, 기업의 3분의 1은 적어도 하나의 비즈니스에 생성형 AI를 정기적으로 사용하고 있다고 밝혔다. 엔터프라이즈 소프트웨어 회사 데이터브릭스의 알리 고드시(Ali Ghodsi) CEO는 대규모 언어 모델이 빅테크 수준의 비즈니스로 성장하기 위한 요건에 대해 이야기했다. 고드시 CEO는 디인포메이션 매체 구독자들과 컨퍼런스 콜에서 오픈AI와 그 잠재적 도전에 대해 솔직한 의견을 토로했다. 기업들이 대화형 AI를 어떻게 사용하는지 가장 가까이에서 지켜본 사람 중 한 명이기 때문에 그가 생각하는 이 기술의 현재 제한점이 무엇인지 살펴보는 것은 의미있는 접근이 됐다.  고드시는 "오늘날 챗봇을 구동하는 대규모 언어 모델 자체만으로는 부족한 점이 많다"고 말했다. 무엇보다 챗봇을 진정한 '빅 비즈니스'로 전환하는 것이 관건이다. 그러기 위해서는 이 모델에 신뢰할 수 있는 방식으로 실시간 데이터에 액세스할 수 있는 방법, 즉 '검색 증강 생성(RAG: Retrieval Augmented Generation)'이 핵심적이라고 주장했다.