AI

최근 오픈AI 이사회와 샘 알트만 공동창업자의 내분이 시장에 파장을 몰고 온 이후, 미국, 영국 등 18개국이 인공지능(AI) 관련 규제안을 내놨다. 전세계 각 국이 안전을 위해 AI 개발 규제안을 속속 마련하는 가운데 설계 단계에서 '안전’을 최우선으로 한 최초의 세부 국제 합의안이다. 한국도 참여했다. 27일(현지시각) 로이터통신 보도에 따르면 26일 미국, 영국 등 18개국은 국제 AI합의를 공개했다. 새로운 지침에 서명한 18개국은 미국, 영국, 독일, 호주, 캐나다, 프랑스, 이탈리아, 노르웨이, 한국, 일본, 체코공화국, 에스토니아, 폴란드, 칠레, 이스라엘, 나이지리아, 싱가포르 등이다. 미국 당국에 따르면 인공지능을 악성행위자로부터 안전하게 보호하는 방법에 대해 상세히 다룬 국제 합의는 이번이 최초다. 20페이지 분량의 문서에서 18개국은 AI 설계 단계에서 가장 중요한 것은 보안이라고 합의했다. 이에 AI를 설계하고 사용하는 기업은 기업 고객과 개인 사용자를 오용으로부터 안전하게 보호하는 방식으로 AI를 개발하고 배포해야 한다. AI 시스템 남용을 모니터링하고, 데이터를 보호하며 소프트웨어 공급업체 통제한다는 내용 등 일반적인 보안 권장사항을 대부분 담고 있다. 가령 해커가 AI 기술을 탈취하는 것을 방지하는 방법을 다루고 적절한 보안 테스트 후에만 모델을 출시하는 조항 등이다. 다만 법적 구속력은 없다. AI의 적절한 사용이나 모델에 제공되는 데이터가 어떻게 수집되는지에 대한 까다로운 요건도 포함되지 않았다. 옌 이스터리(Jen Easterly) 미국사이버보안및인프라보안국(CISA) 국장은 로이터통신과의 인터뷰에서 "단지 멋진 기능이나, 얼마나 빨리 시장에 출시할 수 있는지, 비용을 절감하기 위해 경쟁할 수 있는지가 최우선이 아니라고 확인한 것에 의의가 있다”면서 “AI 시스템이 안전을 최우선으로 여겨야 한다는 논지에 최대한 많은 국가가 힘을 실어야 한다”고 강조했다.

세계 최대 테크 전시회 ‘CES2024’의 핵심 키워드는 무엇일까. CES 주최 기관 CTA(미국소비자기술협회)가 발표한 혁신상 수상 제품, 배경 설명에서 발견한 핵심 키워드는 AI·지속가능성(Sustainability, Eco-Design & Smart Energy)·인간안보(Human Security for All) 세 가지였다. CTA가 1차로 공개한 ‘최고혁신상(Best of Innovation)’ 수상 제품 27개를 더밀크가 분석한 결과(중복 부문 포함) 지속가능성 부문에 포함된 제품이 3개로 가장 많았다. 인공지능(AI), 인간안보, 사이버보안에 속하는 제품 역시 각각 2개로 다른 부문에 비해 높은 비중을 차지했다. CTA에 따르면 29개 부문에 걸쳐 총 3000개 이상 제품이 출품됐다. CES2023 대비 40% 늘어난 역대 최대 규모다. AI 부문이 신설됐으며 지속가능성, 디지털 헬스 부문으로 제출된 제품이 가장 많았다는 게 특징이다. CES 혁신상은 1976년에 제정됐다. CTA 전문가 그룹이 출품 제품의 기술력과 디자인, 소비자 가치 등 혁신성을 종합 평가해 수상작을 선정한다. 이번에도 웨어러블 디바이스, 임베디드 기술(내장형) 등 소형 제품부터 TV를 비롯한 가전, 헤드폰과 컴퓨터 주변기기, 자동차 및 로봇 관련 솔루션, 스마트홈에 이르기까지 다양한 제품이 혁신상을 받았다. 삼성전자, LG전자, HD현대, 두산, SK에코플랜트, 아모레퍼시픽, 코웨이 등 대기업부터 스타트업에 이르기까지 국내 기업이 다수의 혁신상을 수상했다는 점도 눈여겨볼 특징이다. 대한무역투자진흥공사(코트라)에 따르면 현재까지 공개된 CES2024 혁신상 수상기업 310개 중 한국 기업이 143개를 차지(46%)했다. 혁신상 수상작 전체 목록과 수상 기업은 CES2024 전시 기간 중 발표된다. 라스베이거스 ‘베네치안 엑스포(Venetian Expo)’ 전시장에 마련된 이노베이션 어워드 쇼케이스(Innovation Awards Showcase)에서 수상작을 직접 만나볼 수 있다. 혁신 제품을 실제로 만져보고 체험하길 원하는 전 세계 IT업계 관계자들의 이목이 라스베이거스로 쏠리고 있다.

2023년은 사이버 보안 환경 전반이 격변하는 해였다. 지정학적, 경제적 발전으로 기업과 소비자 모두에게 더욱 복잡하고 불확실한 환경이 조성됐다. 이에 따라 효과적인 글로벌 위협 인텔리전스의 필요성이 커지고 있다. 세계적으로 새로운 플레이어들과 위협이 등장하면서 사이버 범죄 영역은 계속 진화하고 있다. 보안 전문가들은 사이버 위협으로부터 안전한 조직이나 개인은 없으며, 빠른 속도와 규모로 진화하는 위협에 대한 연구와 대비가 시급하다는 점을 인식해야 한다. 랜섬웨어는 그 규모와 정교함이 점점 더 커지면서 전 세계 많은 조직에게 위협이 되고 있다. 랜섬웨어는 컴퓨터 시스템을 감염시켜 접근을 제한하고 일종의 몸값을 요구하는 악성 소프트웨어의 한 종류다. 개인 정보를 유출하기 위한 사회공학적 수법은 점점 더 교묘해지고 있으며, 이를 포착하고 식별하기는 더욱 어려워지고 있다. 우크라이나, 이스라엘 등에서 볼 수 있듯이 국가 간 스파이 활동, 전쟁 및 허위 정보를 이용해 사이버 공격하는 추세도 이어지고 있다.체크 포인트 리서치(Check Point Research, CPR)에 따르면 2023년 2분기 전 세계 주간 사이버 공격이 8% 증가해 2년 만에 가장 많은 양을 기록했다. 쉐임 사이트(Shame-sites)에서 공개한 데이터에 따르면 2023년 상반기 총 48개의 랜섬웨어 그룹이 2200명 이상의 피해자를 공격하고 공개적으로 금전을 갈취한 것으로 나타났다. 사이버 보안 분야는 생성AI의 등장, 무기화 된 딥페이크 기술 및 피싱 공격, 핵티비즘 등을 중심으로 더욱 정교해지고 표적화 되고 있다. 2024년 사이버 보안 분야의 지형은 어떻게 달라질까.

뷰스레터 구독자 여러분 오픈해주셔서 감사합니다. 손재권입니다. 한국은 지난 주말 날씨가 많이 추웠습니다. 모두 감기 조심하시길 바랍니다.미국에서는 추수감사절 연휴에 이은 블랙프라이데이 쇼핑 시즌이 개막했습니다. 저희 더밀크도 미국 추수감사절 연휴엔 쉬었기 때문에 뷰스레터를 발행하지 않았습니다. 추수감사절 인사를 제대로 못드렸네요. Happy Thanksgiving :) 샘 알트만의 해고와 복귀라는 드라마를 쓴 오픈AI는 미국에선 '절대로 쉬는 날'인 추수감사절 연휴임에도 새 이사회가 꾸려진 후 해고 배경에 대한 보도가 이어지고 있습니다. 오픈AI 권력 재편… AI 개발 브레이크 사라지나또 블랙프라이데이 쇼핑 시즌이 시작됐죠. 올해는 온라인 쇼핑이 폭발적으로 늘어 지난해 비해 큰 폭의 매출 증가세를 기록할 것으로 예상됐습니다. 하지만 뚜껑을 열어보니 소비자 트렌드가 바뀐 것을 확인할 수 있었습니다. 2023 블프로 본 미국 4대 쇼핑트렌드의 변화올해 선물 트렌드는 '에이아이템' .. 테크 기기 소비 행태 변했다.지난 24일 더밀크는 한국에서 한국무역협회(KITA)와 함께 코엑스에서 '트렌드쇼2024'를 개최했습니다. 시어스랩, ACE ETF(한국투자신탁운용), 휴넷CEO, 카카오, 네이버, KT, 플로우 등이 후원했습니다. "트렌드쇼를 통해서 많은 인사이트를 얻어서 저에게 너무 유익한 시간이었습니다. 좋은 이벤트 주최해주셔서 감사합니다"트렌드쇼 참관객 백OO으로 부터 이 같은 인사를 받았습니다. 이렇게 한 자리에서 거시경제, 인공지능, 기후테크, 모빌리티, 메타버스 등 핫키워드에서 부터 스마트시티, 정체성의 미래, 테크트렌드7, 소비자 등의 트렌드를 한번에 파악하고 예측하며 대비할 수 있는 강연쇼는 없었다는 것이었습니다.  현장에서는 '트렌드 스터디' 열기가 뜨거웠습니다. 저도 '테크트렌드7'을 발표했지만 다른 8분의 연사님으로부터 많이 배웠습니다. 오늘 뷰스레터는 제가 '트렌드쇼2024'에서 알게된 것에 대해 말씀드리겠습니다. 

24일 코엑스에서 불확실의 시대에 확실한 방향을 제공하기 위한 더밀크 트렌드쇼 2024가 개최됐다. 올해로 2회를 맞는 트렌드쇼는 매년 다음 해에 주목해야 할 트렌드를 콕콕 짚어주는 족집게 역할을 해오고 있다. 트렌드쇼2024 오전 세션에서는 오건영 신한은행 팀장, 이홍락 LG AI연구소 부사장, 손재권 더밀크 대표, 황지영 노스케롤라이나대 교수 등이 거시경제, AI에이전트, 미 대선, 잘파세대 등에 대해서 발표했다. 이어 트렌드쇼 오후 세션에서는 메타버스의 가능성, AI시대와 정체성, 기후테크, 모빌리티, 스마트시티 등 미래 기술에 대한 전문가들의 강연이 있었다. 모두가 불확실성에 대해서 이야기하는 요즘, 불확실성을 이겨낼 수 있는 확실한 준비방법을 이번 트렌드쇼2024에서 열띤 발표가 이어졌다.

샘 알트만 공동창업자가 오픈AI에 복귀한 후 인공지능(AI) 개발에 가속도가 붙을 것이란 의견이 지배적이다. AI 개발 속도 저하를 강조했던 일리야 수츠케버 등 세력이 축소되고, 사업적 확장에 무게를 둔 알트만 세력이 힘을 얻으면서다. 👉 오픈AI-샘 알트만 5일 간의 드라마 총정리 [라이브 업데이트]

"트렌드쇼를 통해서 많은 인사이트를 얻어서 저에게 너무 유익한 시간이었습니다. 좋은 이벤트 주최해주셔서 감사합니다" 백OO님. 새해 테크 및 비즈니스 트렌드를 예측, 분석해 미리 대비하기 위해 더밀크가 지난 24일 코엑스에서 주최한 '트렌드쇼2024'가 성황리에 열렸다. 올해로 2회를 맞는 트렌드쇼는 주목해야 할 트렌드를 콕콕 짚어주는 족집게 역할을 해오고 있다. 한국무역협회(KITA)가 공동 주최했으며 시어스랩, ACE ETF(한국투자신탁운용), 휴넷CEO, 카카오, 네이버, KT, 플로우 등이 후원했다. 올해 트렌드쇼에서는 인공지능, 거시경제, 메타버스, ESG 및 기후테크, 모빌리티, 소비자 및 세대, 스마트시티, 테크트렌드7 등 각 영역에서 최고 전문가들이 각각 2024년이 어떻게 전개될 것인지 전망했다.

최근 글로벌 경제시장이 녹록지 않다. 인플레이션은 계속되고 있고, 이를 잡기 위해 각국 정부는 금리를 높은 수준을 유지하고 있다. 그리고 변화의 속도는 이전보다 더 빨라졌고, 더 파괴적이다. 작년 11월, 오픈 AI가 공개한 GPT-3.5는 단 두 달 만에 구독자수 1억 명을 넘기며 올해 챗GPT 돌풍을 일으켰다. 우리는 이 시기를 AI기술의 오펜하이머 모멘트라고 부른다. AI기술 자체가 혁신이지만, 그 기술이 가지고 올 변화의 파괴력을 가늠하기도 어렵기 때문이다.오픈 AI의 CEO 샘 알트먼은 이사회의 ‘쿠데타’ 사건으로 해고 됐다. 그리고 해고된 지 5일 만에 마이크로소프트, 오픈 AI 직원들의 지지를 받고 다시 오픈 AI로 복귀했다. 그의 복귀는 AI기술의 진화가 이전보다 더 빨리질 것임을 예고하고 있다. 빠르게 변화하는 세상에서 불안감이 뒤따르는 것은 자연스럽다. 하지만, 그 불안감에 휩싸여 주저앉으면 모든 것이 끝이 난다. 불안감을 해결하는 한 가지 방법은 그 불안감의 근원으로 깊이 파고드는 것이다.더밀크는 불확실한 시대 속 확실한 방향을 보여주기 위해 트렌드쇼를 매년 개최한다. 올해 트렌드쇼 2024는 11월 24일 코엑스에서 한국무역협회와 함께 공동 주최한다.

제너럴 모터스(GM)의 자율주행차 사업부 크루즈(Cruise) 책임자 카일 보그트(Kyle Vogt)가 20일(현지시각) 사임했습니다. 크루즈의 공동 창업자인 보그트는 최근 발생한 일련의 사고로 주 및 연방 규제 당국의 조치를 받게 된 것에 대해 해당 부서 직원들에게 사과했고, 그 다음날 사임 의사를 밝힌 것으로 알려졌는데요.  캘리포니아 당국이 보행자 충돌 사고와 부상으로 캘리포니아 주에서 무인 자동차를 운행할 수 있는 권리를 취소한 후 크루즈는 10월 말 로보택시 서비스를 사실상 중단했는데요. 보그트 CEO는 미국 당국이 운행 허가를 취소한 뒤 발생한 손실에 책임을 지고 물러난 것으로 보입니다. 보그트의 사임으로 후폭풍이 거셀 것으로 보이는데요. 레벨3(완전 자율주행 전 단계) 자율주행차에 대한 정부의 통제 강화와 책임 여부를 둘러싼 제조사와 사용자 혹은 피해자 간의 갈등이 현실화됐기 때문입니다. 여기에 자율주행 레벨3은 아직 시기상조라는 여론까지 더해지며 자율주행차에 대한 우려도 커지게 됐습니다. 크루즈와 관련된 가장 심각한 사고는 10월 2일 샌프란시스코에서 발생했습니다. 크루즈 로보택시와 보행자 간 충돌 사고가 발생했고, 이 사건 이후 미국 도로교통안전국(NHTSA)은 크루즈의 무인택시 운행 허가를 취소한 바 있습니다. 크루즈는 미국에서 운영 중이던 무인택시 서비스를 중단하며 950여 대를 리콜했습니다. 👉자율주행 레벨3 논란, 그럼에도 업계 투자는 계속될 것 미 도로교통안전국의 발표와 캘리포니아 당국의 무인 차량 운행 허가 취소 조치에 따라 크루즈는 무인 택시 서비스를 중단한다고 발표했지만, 자율주행 기능을 위해 운전자가 탑승한 채로 서비스를 계속하고 있었습니다. 로이터 통신에 따르면 보그트는 직원들에게 보낸 이메일에서 "제 리더십 아래에서 우리는 진로를 벗어났고, 이로 인해 많은 크루저 운전자들에게 영향을 미치게 되어 유감이다."라고 썼습니다.그는 이어 "CEO로서 저는 오늘날 크루즈가 처한 상황에 대해 책임을 집니다"라며 "변명의 여지가 없으며, 이미 일어난 일을 좋게 무마할 수도 없습니다. 우리는 안전, 투명성, 커뮤니티 참여를 두 배로 강화해야 합니다."라고 덧붙였습니다. 크루즈의 경쟁사인 구글의 지주사 알파벳이 운영하는 웨이모(Waymo)는 아직도 로보택시를 운행하고 있는데요. 웨이모는 안정적인 운행으로 쌓인 데이터에 기반해 택시를 운영하는 전략을 쓰고 있습니다. 일각에서는 크루즈가 경쟁사보다 빠르게 시장을 점령하기 위해 안전 요소를 등한시했다는 지적도 나오고 있습니다. 

"이제 챗GPT를 어떻게 믿고 쓸 수 있겠어요?" 지난 20일(한국시간) 오전 '샘 알트만 왕의 귀환? 오픈AI는 어떻게 될까?'라는 뷰스레터를 보내드린 이후 전개된 상황을 보며 더밀크 독자 김O영 님께서 보내주신 의견이었습니다.세상을 바꿀 것이라 믿었던 혁신 기업이 붕괴되고 있는 것을 실시간으로 목격 하면서 "과연 서비스는 믿을 수 있나?"란 의문이 생겼다는 것입니다.샘 알트만은 생성AI 혁명을 진두지휘하며 회사를 인공지능(AI) 연구개발 비영리재단에서 900억 달러(약 115조 원)에 달하는 기업가치를 지닌 회사로 성장시킨, 오픈AI 공동창업자이자 CEO 이상의 존재였습니다. 그가 오픈AI를 떠나 MS로 떠난 이상 AI를 둘러싼 환경은 결코 예전같진 않을 것입니다. 오픈AI 이사회는 되돌릴 시간이 있었지만 새 CEO를 임명하며 퇴로를 닫았습니다. 안전하고 개방적인 AI를 위해 존재한다는 오픈AI의 미션에 충실한 판단이었는지 몰라도 AI에 대한 신뢰를 흔들고 오픈AI 직원의 엑소더스를 유발하며 빅테크 기업의 AI 개발 경쟁을 촉발하는 결과를 낳을 것이라고는 상상하지 못했을 것입니다. 비전과 미션은 '행동'을 통해 달성되고 소비자(이용자)가 동의하고 따라야 달성될 수 있다는 사실을 오픈AI 이사진은 깨닫지 못했습니다. 회사 직원 770명 중 700명 이상이 이사회 멤버를 해임하라는 서명에 동의하는 서명을 했습니다. 마이크로소프트는 이번 사태의 승자입니다. 샘 알트만과 그레그 브록먼을 전격 영입, 새 AI 연구조직을 맡기며 사실상 오픈AI를 인수하게 됐습니다.반면 오픈AI의 미래는 불투명합니다. 오픈AI와 협력하던 기업들이 앤트로픽, 구글, 코히어 등 경쟁사로 올겨갈 것을 검토 중이기 때문입니다. 900억 달러 가치의 회사가 단 3일만에 붕괴 직전입니다.  오늘은 살시간으로 변하는 오픈AI 사태를 정리하고 그 의미를 (지금 버전으로) 알려드리겠습니다. 주의! 또 다른 반전이 나올 수 있습니다. 

17일(현지시각) 오픈AI가 ‘AI 간판스타’ 샘 알트만 공동창업자를 급작스레 해임한 이후 후폭풍이 계속되고 있다. 샘 알트만 및 그렉 브록만 공동창업자는 마이스로소프트에 합류해 고성능AI 연구팀(advanced AI research team)을 이끌기로 했다. 샘 알트먼이 투자사이자 경쟁사인 마이크로소프트(MS)로 이적, 오픈AI와 갈라서듯 보이면서 ‘오픈AI 1강 체제’로 굳어지는 듯 보였던 산업 지형도가 요동치고 있다. 현재도 오픈AI 사태는 라이브로 업데이트되며 시시각각 변동 중이다. 생성AI 산업이 어떻게 재편될지를 두고 주목해야 할 큰 관전포인트를 더밀크가 정리했다.

마크 베니오프 세일즈포스 CEO는 20일(현지시각) X(옛 트위터)를 통해 “AI 엔터프라이즈(기업 대상 제품) 혁명에 동참하라”며 이같이 밝혔다. 오픈AI 이사회(4명. 일리야 수츠케버, 애덤 디안젤로, 타샤 맥컬리, 헬렌 토너)가 지난 금요일(17일) 샘 알트만 공동창업자의 해임을 결정한 후 90%에 달하는 오픈AI 직원들이 “이사회 전원 사퇴”를 요구하며 회사를 떠나겠다고 밝히자 공개적으로 영입 제안을 한 것이다. 해임된 샘 알트만, 스스로 회사를 그만둔 그렉 브록만 오픈AI 공동창업자는 마이크로소프트에 합류해 ‘발전된 AI 연구팀(advanced AI research team)’을 이끌기로 한 상태다. 마크 베니오프 CEO의 글은 지난 사흘간 오픈AI와 AI 업계에 무슨 일이 벌어졌는지 단적으로 보여준다. 2015년 설립 후 8년간 오픈AI를 이끌어 온 공동창업자의 갑작스런 축출, 직원·주주·이해관계자와의 불투명한 소통이 AI 산업을 선도하던 혁신 기업의 근간을 송두리째 흔들고 말았다.  샘 알트만의 마이크로소프트 합류, 오픈AI의 우수한 AI 연구자, 개발자들의 이탈은 마이크로소프트, 그리고 생성형 AI 업계에 어떤 영향을 미치게 될까.