메타(페이스북 모회사)가 이미지 분할(image segmentation)에 특화된 새로운 AI 모델 ‘SAM(Segment Anything Model)’을 5일(현지시각) 공개했다. 컴퓨터 비전(Computer Vision, 기계가 인간처럼 이미지를 인식할 수 있도록 만드는 AI 분야) 영역, 그중에서도 이미지 분할 분야의 파운데이션 모델(foundation model, 기초 모델)이 되겠다는 포부다.메타는 이날 블로그를 통해 “다양한 애플리케이션을 지원하고 컴퓨터 비전을 위한 기초 모델에 대한 추가 연구를 촉진하기 위해 ‘SAM’을 공개한다”고 밝혔다. 이와 함께 역대 최대 규모의 이미지 분할(segment) 데이터 세트 ‘(SA-1B)’도 연구 목적으로 사용할 수 있도록 공개했다. 메타에 따르면 이미지 분할 데이터 세트 숫자는 10억 개에 달한다.
10년이 1년처럼 지나갔다는 생각을 해보신 적 있나요? 실리콘밸리(a.k.a Cerebral Valley, 뇌 밸리)에서는 한 달이 10년처럼 빨리 지나가고 있습니다.지난 3월 10일 GPT-4가 나온 기점 전과 후에 구글, 마이크로소프트, 어도비 등 미국의 내로라하는 빅테크 기업들이 모두 챗GPT를 적용한 서비스를 출시하는 등 많은 일이 있었기 때문인데요. 이런 와중에 AI경쟁 속도를 조절하자는 목소리가 커지고 있습니다. AI개발 속도조절론을 주장하는 진영은 AI가 인간의 능력을 뛰어 넘음으로 인해 생길 수 있는 문제점들에 대해서 미리 생각해보고 대비 해야 한다는 주장을 하고 있습니다. 그리고 미리 준비하는 시간을 갖기 위해 무분별한 AI 개발을 일시적으로 중단 하자는 입장입니다.개인적으로도 현재 AI업계는 룰이 없는 레이스를 하고 있다는 느낌이 있습니다. 어떤 도구를 어떻게 사용해도 상관 없고, 레이스 도중 반칙을 저질러도 아무런 제재를 받지 않는 무법지대라고 할까요? 그리고 아직 충분히 개발되지 않은 기술을 먼저 대중들에게 공개하고 관심을 끄는 경우도 많이 있습니다. 이렇게 경쟁적으로 제품 출시를 위해 달리다 보면 발생하는 부작용들을 저희들은 종종 보았습니다. 기대 했던 것 보다 많은 것을 할 수 없다는 것을 알고 대중들의 관심이 급격히 식거나, 대중들에게 약속했던 기술이 없음에도 불구하고 거짓으로 사업을 진행한 메디컬 스타트업 테라노스(Theranos), 수소자동차 업체 니콜라(Nikola)와 비슷한 사례가 또 나올 수도 있습니다.반대로 AI에 대한 규제가 존재하지 않았기 때문에 오픈AI가 비교적 자유롭게 서비스를 출시하고 빠른 속도로 성장할 수 있었다는 생각도 듭니다. 구글과 메타 등 빅테크 기업들이 챗GPT와 비슷한 기술을 보유하고 있음에도 불구하고, 과거 출시 했던 AI서비스들이 문제를 일으키거나 논란의 중심이 되면서, 대중들의 비난을 받은 이후 서비스 중단 사태를 맞기도 했었는데요. 이처럼 규제나 제재가 너무 많아지면 새로운 기술과 기업이 탄생하는 것에 제약이 될 수 있다는 우려도 생깁니다. AI개발 속도조절에 대한 여러분의 의견은 어떤 가요?
미국과 일본 등 일부 기업이 기밀 유출을 우려 챗GPT 사용제한에 나섰다. 삼성전자도 챗GPT 사용지침을 만들며 오남용을 방지하기 위한 작업을 시작했다. 조직에서 챗GPT를 차단하지 않으면 직원은 지금 이 순간에도 챗GPT를 사용할 수 있다. 조직내 챗GPT 등 생성AI 도입이 증가하면서 이에 대한 사이버 위협에 대한 관심이 높다. 생성AI 활용은 조직 보안에 영향을 끼친다. 데이터 보안, 개인정보보호 등 방안을 고려해야 한다. 세계 최대 사이버 보안 행사 RSA컨퍼런스2023이 오는 4월 24일부터 27일까지 샌프란시스코 모스코니센터에서 개최된다. 올해 RSA컨퍼런스의 주제도 생성AI가 장악할 전망이다. '생성 AI가 촉발하는 사이버 위협과 대응 방법' 등이 중점 논의되기 때문. 더밀크는 24일부터 27일까지 RSA컨퍼런스2023 현장을 직접 찾아 주요 사이버 보안 기술과 관심사를 현장 중계할 예정이다. 행사 내용을 정리한 리포트도 발행한다.
캐나다 정보보호 당국이 AI 챗봇 ‘챗GPT(ChatGPT)’ 개발사인 오픈AI(OpenAI)에 대한 수사에 착수했다. 최근 이탈리아 당국이 개인정보 보호 우려 등을 이유로 챗GPT 접속을 차단한 데 이어 캐나다가 같은 이유로 조사에 돌입하자 챗GPT에 대한 서방 주요 국가의 규제가 확산하는 것 아니냐는 관측이 나오고 있다. 4일 배런스에 따르면 캐나다 개인정보 보호 위원회는 챗GPT 개발사인 오픈AI에 대한 자체 조사를 진행 중이다. “동의 없이 개인정보를 수집하고 사용 및 공개했다”는 불만이 접수됐다는 이유로 조사가 시작됐다는 게 캐나다 당국의 설명이다. 지난해 11월 30일에 출시된 챗GPT는 온라인 정보를 학습하는 방식으로 개발됐다. 처음 공개됐을 때는 2021년까지 학습한 데이터를 활용한 GPT-3.5 버전이었고, 최근 유료모델인 챗GPT 플러스에 적용된 GPT-4는 2022년 8월까지 학습한 데이터 기반으로 작동하는 것으로 알려졌다. 챗봇 형태의 간단한 사용자 환경을 제공하며 문자(text) 기반으로 질문을 던지면 에세이, 이메일, 마케팅 문구 작성은 물론, 소설, 에세이, 기사까지 생성할 수 있다. GPT-4는 이미지 정보도 이해, 답을 제시하는 능력을 갖췄다.
챗GPT 등 생성AI는 '일의 생산성'을 높이는데 크게 기여하고 있다. 하지만 문제는 '재미'가 없다는 것이다. 그렇다면 어떻게 AI를 재미있게 활용하면서 창의력을 끌어 올리는데 기여할 수 있을까? 디즈니가 그 대답을 내놨다. 바로 생성AI를 활용한 '인터랙티브 토이'다. 과거 머신러닝 로봇들도 사람의 행동에 반응했지만 고도화된 생성형AI가 탑재된 인형은 개념부터 다르다. 디즈니는 SXSW2023에서 AI의 새로운 미래를 제시했다. AI에 기반한 캐릭터 토이를 선보인 것. 미키마우스 등 디즈니 캐릭터는 ‘즐거움과 행복’을 고객들에게 선사하는 것이 주목적이다. 여기에 AI에 탑재된다면 디즈니 캐릭터는 이 임무에 더 충실할 수 있다.
순다르 피차이 알파벳(구글 모회사) CEO는 31일(현지시각) 뉴욕타임스 팟캐스트 ‘하드포크’와 진행한 인터뷰에서 “공개서한의 정신은 충분히 가치 있다고 생각한다”며 이같이 말했다. 지난 3월 29일 미국 비영리단체 ‘퓨처오브라이프 인스티튜트(Future of Life Institute)’가 발표한 ‘대규모 AI 실험 중단 촉구(Pause Giant AI Experiments)’ 공개서한의 취지에 공감한다고 밝힌 것이다. 공개서한은 “안전 프로토콜(규약), 거버넌스(관리) 시스템 마련을 위해 전 세계 AI 연구소가 ‘GPT-4’보다 강력한 AI 시스템에 대한 훈련(training)을 최소 6개월 동안 멈춰야 한다”는 내용을 담고 있다. 일론 머스크 테슬라 CEO, 스티브 워즈니악 애플 공동 설립자, 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 버클리대 교수, 유발 노아 하라리 히브리대 교수 등 전 세계 석학, 기업가들이 서한에 서명했다. GPT-4는 오픈AI가 지난 3월 14일 공개한 최신 거대언어모델(LLM)이다. AI 챗봇 챗GPT(ChatGPT)가 GPT-3.5, GPT-4 기반으로 작동한다.피차이 CEO는 “AI는 제대로 규제(regulate)하지 않기에는 너무 중요한 영역”이라며 “이런 논의가 진행되고 있다는 사실이 기쁘다. 개인정보 보호 규정을 제대로 마련하는 것부터 (논의를) 시작하면 좋을 것”이라고 했다. 이와 관련해 이탈리아 정부는 “이탈리아 개인정보 보호 기준과 규정을 충족하지 않는다”는 이유로 챗GPT 접속을 차단한 상태다.다만 피차이 CEO는 6개월 개발 중지가 효과적으로 진행되긴 어려울 것으로 봤다. 각국 정부가 개입하지 않으면 전 세계 AI 연구기관, 기업을 실질적으로 통제할 수 없다는 이유에서다. 피차이 CEO는 “공개서한의 취지는 좋지만, 시간을 두고 생각해 볼 필요가 있다”며 “공개서한은 대화를 시작하려는 의도로 만든 것 같다. 더 많은 고민이 필요하다”고 했다. 그는 또 글로벌 시장 점유율 1위(30%) 전자우편 프로그램(email client) ‘지메일(Gmail)’에 자체 개발한 AI 챗봇 ‘바드(Bard)’를 통합하기 위한 테스트를 진행 중이라고 밝혔다. 바드의 기반이 된 거대언어모델 ‘람다(LaMDA)’를 더 강력한 모델인 ‘PaLM’으로 업그레이드한다는 계획도 공개했다. 다음은 순다르 피차이 CEO와 하드포크의 인터뷰 전문이다.
"챗GPT 등 거대 언어 모델이 출현함과 동시에 다양한 유형의 피해가 발생할 수 있습니다. 또는 이 문제와 관련된 다양한 것들을 측정하는 사회 기술 벤치 마크가 필요합니다" 롭 라이히(Rob Reich) 스탠퍼드대 인간중심 인공지능연구소(Stanford HAI) 부소장은 더밀크와 단독 인터뷰에서 "챗GPT 출연 이후 세계는 큰 정치사회적 변화를 겪고 있으며 전세계가 그 변화를 받아들일 준비가 안 돼 있다"고 말했다. 그에 따른 사회기술 지표(벤치마크)가 필요하다는 것이다. 롭 라이히 교수는 "사실 구글 등 많은 회사들이 비슷한 언어 모델을 갖고 있기 때문에 챗GPT의 출현 이후 오픈AI의 직원들도 많이 놀라고 있다”며 “앞으로도 (인공지능 개발 경쟁으로 인해) 많은 변화가 있을 것이다”고 말했다.이 인터뷰는 스탠퍼드 인간중심 인공지능연구소(Human-Centered Artificial Intelligence. HAI)에서 개최한 ‘임베디드 윤리 컨퍼런스’ 직후 이뤄졌다. 라이히 교수는 스탠퍼드 HAI 부소장이자 정치학과 교수로 재직 중이다. 그는 기술의 발전이 사회에 미치는 영향과 파생되는 문제를 탐구하는 선구적 사상가로 꼽힌다. 뛰어난 강의로 스탠퍼드에서 가장 우수한 교직원에게 수여하는 월터 J. 고어즈 상 등을 수상한 바 있다. 지난해엔 실리콘밸리 빅테크 기업과 그 속에서 일하는 엔지니어 들의 사고방식을 다룬 ‘시스템 에러’를 펴내기도 했다. 라이히 교수에게 교육계에 생성AI가 부정적 영향을 미칠 것이란 주장의 배경을 물었다.
챗GPT 및 기타 생성AI가 직장에 침투함에 따라 화이트칼라(전문직과 사무직) 고용 시장에 지각 변동이 일어나고 있다. 펜실베이니아 대학교 연구진과 챗GPT의 오픈AI가 진행한 연구에 따르면 회계사, 수학자, 통역사, 작가를 포함해 미국 노동시장의 약 20%의 직업군이 생성AI에 가장 많이 노출돼 있는 것으로 나타났다. 방대한 양의 정보를 처리하고 편향되지 않은 정교한 콘텐츠를 생성할 수 있다는 점에서 인간의 작업보다 정확성과 신속성이 뛰어나다는 평가다. 지난달 28일(현지시각) 월스트리트저널이 주최한 ‘잡서밋’에서는 인공지능으로 불안정한 고용 시장에서 화이트칼라 노동자들이 경쟁 우위를 확보하는 방법이 집중 논의됐다. 컨퍼런스에 참석한 관련 전문가들은 “올해 산업 전반에 걸쳐 가장 큰 직장 내 과제는 빠르게 진화하는 AI에 적응하는 것"이라는 점에 입을 모았다. ‘적응'은 AI 시대에 직장에서 생존하게 하는 핵심 능력이라는 것이다.
미국 비영리단체 ‘퓨처오브라이프 인스티튜트(Future of Life Institute)가 ‘대규모 AI 시스템’ 개발 중단을 촉구하는 공개서한을 29일(현지시각) 발표했다. 전 세계 AI 연구소에 “GPT-4보다 강력한 AI 시스템에 대한 훈련(training)을 최소 6개월 동안 멈추라”고 요구하는 내용이다. 일론 머스크 테슬라 CEO, 스티브 워즈니악 애플 공동 설립자, 에마드 모스타크 스태빌리티AI CEO 등 기업가를 포함해 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 버클리대 교수, 유발 하라리 히브리대 교수, 앤드류 양 등 저명한 교수, 정치인 총 1200여 명이 서한에 서명했다.대규모 AI 시스템 개발 경쟁이 무분별하게 진행돼 인류에 위협을 초래할 수 있다는 이유에서다. 기술 경쟁을 촉발한 회사는 오픈AI다. 오픈AI는 지난해 11월 30일 대화형 AI 애플리케이션 ‘챗GPT(ChatGPT)’를 발표한 데 이어 3월 14일에 AGI(인공일반지능, 인간처럼 다양한 업무 수행 및 지적 판단이 가능한 인공지능)에 다가갔다고 평가되는 거대언어모델(LLM) ‘GPT-4’를 공개했다. 내부적으로는 이미 더 강력한 모델인 ‘GPT-5’를 훈련하고 있다. 이런 이유로 업계에선 공개서한을 ‘오픈AI를 향한 메시지’로 해석한다. 최근 오픈AI를 공개적으로 비판한 머스크 CEO가 퓨처오브라이프 인스티튜트의 외부 자문(external advisor)으로 활동하고 있으며 머스크 재단은 퓨처오브라이프 인스티튜트에 가장 많은 돈을 기부하는 단체 중 하나다.
지난 3월 12일(현지시간) SXSW2023이 열린 미 텍사스주 오스틴 소재 오스틴 컨벤션센터. 존 마에다 마이크로소프트 디자인 및 인공지능 부사장은 '디자인과 인공지능(AI)'을 주제로 한 강연에서 챗GPT가 불러온 AI 열풍과 디자인의 미래에 대해 이렇게 전망했다. 마에다 부사장은 "최근 대규모언어모델(LLM)을 기반으로 한 AI는 차세대 기술 관련 제품과 서비스를 어떻게 변화시킬 수 있을지에 대한 새로운 희망과 두려움을 동시에 가져왔다"라고 말했다. 존 마에다 부사장은 세계적인 그래픽 디자이너이자 컴퓨터 공학자로 꼽힌다. 데이터와 AI에 기반한 알고리즘으로 생성한 비주얼리제이션으로 백악관 내셔널 디자인 어워드의 첫 번째 수상자로도 알려져 있다. AI/ML 입문서인 '기계에게 말하는 법(How To Speak Machine)', '단순함의 법칙(Laws of Simplicity)' 등을 쓴 베스트셀러 작가이기도 하다.그는 최근 독자적으로 실시한 설문조사에 대해 설명했다. 마에다 부사장은 '대규모 언어모델(LLM)로 인해 디자인 직업은 어떻게 변화할까?'라는 질문을 토대로 설문조사 결과 설문에 응한 대부분의 디자이너가 어떤 방식으로든 AI가 디자이너에게 영향을 줄 것이라고 답했다고 말했다. 응답자들은 어도비, 피그마 + AI 플러그인, 달리, 미드저니, 런웨이 D-ID, 카피.ai, 챗GPT 등 디자인과 접목한 AI 도구를 주로 사용한다고 답했다. 최근 테크 업계의 해고가 잇따르는 가운데, 기술 분야의 디자인 담당자들에게 주는 의미에 대해 "디자인 전문가만이 해결할 수 있는 일이 따로 있다. 가까운 미래는 걱정할 필요가 없을 것 같다"라고 예상했다. 그러면서 "결국 AI가 인간과 어떻게 상호 작용하는가에 대한 문제다. 이를 통해서만 최고의 디자인을 이끌어낼 수 있다"라고 주장했다. 다만 생성AI가 등장한 현시점에서 디자인을 바라보는 시각이 달라져야 한다고 목소리를 높였다. 마에다 부사장은 "새로운 '윤리의 미학(aesthetics of ethics)'이 정말 중요해질 것이다. 사람들은 좋은 일을 하는 좋은 제품의 중요성에 대해 질문하게 될 것"이라며 "기계가 말하는 것보다 사람이 정말 잘 말하는 것이 더 중요해지는 시기가 올 것"이라고 말했다. 마에다 부사장의 강의를 요약했다.
더밀크의 영문 서비스 ‘더스필(The Spill)'이 시작된 지 4개월이 됐습니다. 더스필 팀은 비밀스러운 정보를 알린다는 ‘Spill the tea’ 표현에 맞게, 그동안 알기 힘든 국내 유망 스타트업 정보와 산업 전망을 국내외 유력 VC들에게 직접 전달했습니다. “해외 투자자들도 여러 차례 들어봤거나, 투자 기회를 접했던 회사들을 수치에 기반해 매우 유익하게 다뤘습니다.” - 투자자 J “더스필 리포트 재밌게 보고 있습니다. 특히 VIP 섹션이 흥미롭네요. 한번 가까이에서 이야기할 기회가 있으면 좋겠습니다.” - 투자자 N"오는 4월 북미 진출을 계획하고 있습니다. 샌프란시스코에서 더밀크팀 만나 더스필에 소개될 수 있길 기대합니다.” - 스타트업 P국내외 VC와 글로벌 진출을 꿈꾸는 스타트업들로부터 직접 받은 피드백입니다. 저희 팀이 예상했던 것보다 더 많은 관심을 받고 있어, 해외 시장진출 연결고리 역할에 더 큰 책임감을 느낍니다. 한국 기업에게 글로벌 진출은 ‘선택'이 아니라 ‘필수'가 됐습니다. 그 길을 성공적으로 해낸 센드버드, 몰로코 등 많은 스타트업 선배들이 한국 스타트업의 글로벌 가능성을 입증했습니다. 80억 세계 인구를 고객으로 만들 수 있는 그 길을 더밀크의 더스필이 함께 하겠습니다.
일론 머스크 테슬라 CEO와 샘 알트만 오픈AI CEO간에 벌어진 갈등의 전말이 공개됐다. 2018년 일론 머스크가 오픈AI를 떠난 본질적 이유가 ‘이해관계 상충’이 아닌 ‘권력 다툼’이었다는 내용이다. 24일 미국 IT 전문 매체 세마포(Semafor)에 따르면 일론 머스크는 2018년 초 인공지능(AI) 기업 오픈AI를 직접 경영하려고 시도했다. 당시 그는 오픈AI 이사회 멤버 중 한 명이었으나 이에 만족하지 않고, 완전히 통제(take control)하길 원했다.머스크는 통제권 확보 주장의 근거로 오픈AI의 ‘미진한 성과’를 들었다. 그가 “오픈AI는 구글에 치명적으로 뒤처졌다”며 샘 알트만을 다그쳤다는 게 내부 관계자들의 전언이다. 일리야 수츠케버, 그렉 브록만 등 오픈AI의 다른 공동 설립자들은 일론 머스크의 제안에 반대했고, 결국 머스크는 2018년 2월 오픈AI를 완전히 떠났다. 2015년 오픈AI가 설립된 후 약 3년 만에 벌어진 일이었다. 챗GPT 개발로 이어진 오픈AI 최초의 GPT 논문은 4개월 후인 2018년 6월 발표됐다.
