AI는 질주하는데, 우리는 무엇을 결정해야 할까

9월 10일(미 현지시간) AI 뉴스는 유난히 시끄러웠습니다. 

앤트로픽은 클로드가 사이버 공격, 감시, 영향력 공작, 생물학적 오남용 시도 등에 악용된 사례를 차단했다고 밝혔습니다. 오픈AI는 모건스탠리, 에버코어와 함께 금융서비스용 챗GPT를 내놨고, 딥시크는 더 작고 긴 컨텍스트를 처리하는 새 모델을 공개했습니다.

인프라와 규제도 움직였습니다. 마이크로소프트는 데이터센터 용량을 2032년까지 38GW 이상으로 확대할 계획으로 알려졌고, 캘리포니아는 청소년의 AI 챗봇 이용을 제한하는 법안에 서명했습니다.

각각 다른 분야의 뉴스처럼 보입니다. 그러나 함께 놓으면 하나의 흐름이 드러납니다.
AI에 더 중요한 일을 맡기기 시작했고, 그에 따른 비용과 책임을 누가 감당할 것인지도 현실의 문제가 되기 시작했습니다. 

금융회사는 AI가 업무를 얼마나 정확하게 수행하는지 확인해야 합니다. 데이터센터를 짓는 기업은 전력을 확보해야 하고, 지역사회는 그 부담을 따집니다. 청소년이 사용하는 챗봇은 대화를 잘하는 것만으로 충분하지 않습니다. 이용자를 보호할 수 있어야 합니다.

AI의 성능이 좋아졌다는 소식만으로는 이 변화들을 설명하기 어렵습니다. 이제는 AI가 어디에 쓰이고, 어떤 결과를 만들며, 그 결과를 누가 책임지는지까지 봐야 합니다.

뉴스를 읽는 우리의 질문도 여기에 맞춰 달라져야 합니다.

더밀크가 존재하는 이유도 여기에 있습니다.

정보의 시대를 지나, 이제는 판단의 시대입니다. 

이 긴장은 과학 연구와 AI 안전 문제에서 더 선명하게 드러납니다.

오픈AI는 수학계의 밀레니엄 난제인 나비에-스토크스 방정식 해결을 주장했고, 구글 딥마인드는 인간 유전체 변이의 분자적 영향을 예측하는 알파게놈 아틀라스를 공개했습니다.  

AI가 기존 지식을 정리하는 데서 더 나아가, 새로운 지식을 발견하는 연구 과정에 들어가고 있다는 신호입니다.

동시에 개발 현장에서는 경고가 나왔습니다. 앤트로픽의 사전학습 연구원 제이콥 콕슨은 AI 업계가 자기개선형 초지능을 향해 질주하면서 사람들의 생명을 걸고 도박하고 있다는 취지로 비판하며 사임했습니다.

어느 쪽에 더 무게를 둬야 할까요?

저는 두 소식을 함께 읽어야 한다고 생각합니다. AI가 중요한 일을 해낼 능력을 갖출수록, 그 능력을 잘못 사용하거나 통제하지 못했을 때의 영향도 커질 수 있기 때문입니다.

그렇다고 모든 활용을 멈출 수도, 기술이 알아서 문제를 해결할 것이라 기대할 수도 없습니다. 실제로 맡길 업무를 놓고 판단해야 합니다.

AI가 연구 가설을 제시하는 일과 검증 없이 연구 결과를 확정하는 일은 다릅니다. 금융 자료를 정리하는 일과 고객의 자금을 움직이는 일도 다릅니다. 같은 모델을 쓰더라도 권한과 검증 방식은 달라야 합니다.

통제와 책임의 기준은 도입 이후에 붙이는 부속물이 아닙니다. 중요한 일을 맡기기 위한 조건입니다.

한국의 기업과 정부도 같은 선택 앞에 서 있습니다. 어떤 모델을 확보할지, 그 모델에 어떤 권한을 주고 어떤 결과를 요구할지 구체적으로 정해야 합니다.

👉 AI 질주, 어떻게 통제할 것인가?

더밀크가 실리콘밸리에 있다 보니 한국의 기업인, 투자자, 정책 관계자들이 자주 찾아옵니다. 기술 변화와 기업들의 움직임을 이야기하다 보면 대화는 이 질문으로 모입니다.

“그래서 우리는 어떻게 해야 하나요?”

쉽게 답하기 어려운 질문입니다. 같은 AI 기술이라도 제조기업과 금융회사에 필요한 것이 다르고, 경영자와 실무자가 내려야 할 결정도 다릅니다. 어떤 회사에는 도입 속도가 중요하지만, 다른 회사에는 데이터 정비나 업무 절차를 바꾸는 일이 먼저일 수 있습니다.

분명한 것은 정보를 아는 것과 자신의 상황에 적용하는 것 사이에 간격이 있다는 사실입니다.

저는 더밀크의 역할은 이 간격을 좁히는 데 있습니다. 현장에서 중요한 변화를 발견하고, 주장의 근거와 한계를 살피고, 독자가 자신의 선택으로 연결할 수 있도록 돕는 것입니다.

더밀크는 매년 창간기념일이 있는 10월, 다음 해의 기술과 산업 변화를 짚는 ‘트렌드쇼’를 열어왔습니다. AI 에이전트, 데이터센터와 반도체, 에너지 병목, 로보택시와 휴머노이드 등 산업을 바꾸는 흐름을 함께 살펴봤습니다.

2027년을 앞둔 올해는 그 전망에서 한 걸음 더 들어가려 합니다. AI 에이전트가 확산된다면 우리 팀의 어떤 일을 맡길 것인가. 로봇의 성능이 좋아졌다면 우리 공장에서도 투자할 만한가. AI 예산을 늘린다면 무엇으로 성과를 확인할 것인가.

올해 트렌드쇼를 ‘트렌드쇼 2027: AI 아젠다’로 개편한 이유입니다.

그동안 쌓아온 현장 취재와 산업 전망을 바탕으로, ‘2027년이 오기 전에 내려야 할 7가지 결정’을 다룹니다. 

👉 더밀크는 어떻게 미래를 예측했나? 얼마나 맞췄나?

2027년을 앞두고, 기업과 개인이 생각해볼 결정은 일곱 가지입니다.

AI가 일을 위임받는 시대, 첫 번째 질문은 지능주권입니다. 글로벌 모델, 국산 모델, 오픈소스 사이에서 무엇을 맡기고 무엇을 지킬지 결정해야 합니다. 이는 지금 가장 중요한 질문이기도 합니다. 

동시에 기업은 AI 경제학을 따져야 합니다. AI 예산은 늘고 있지만, 어디서 비용이 새고 어디서 생산성과 매출이 만들어지는지는 아직 불분명합니다.

세 번째는 AI 업무 재배치입니다. 모든 일에 AI를 붙이는 것이 답은 아닙니다. 무엇은 AI에게 맡기고, 무엇은 사람이 책임질지 업무 단위로 다시 나눠야 합니다. 네 번째는 AI 리파운더십입니다. AI 전환은 기술 도입이 아니라 회사를 다시 설계하는 일입니다. 리더는 KPI, 조직 구조, 인재, 의사결정 방식을 바꿔야 합니다.

다섯 번째는 피지컬 AI ROI입니다. 로봇과 피지컬 AI는 이제 먼 미래가 아닙니다. 제조·물류·공장 현장에서 지금 투자할지, 기다릴지 판단해야 합니다. 여섯 번째는 중국 AI입니다. 중국은 경계할 대상이자 배울 대상입니다. 값싼 모델, 로봇, 커머스, 제조 AI에서 무엇을 가져오고 무엇을 피할지 봐야 합니다.

마지막은 AI 투자 지도입니다. 돈은 모델 기업을 넘어 반도체, 데이터센터, 전력, 산업별 AI로 이동하고 있습니다. 2027년이 오기 전에 우리는 어디에 베팅하고, 어디에서 물러설지 결정해야 합니다.

👉 2027년이 오기 전에 내려야 할 7가지 결정은?

강연을 듣는 것이 목적이 아니라, 내일 무엇을 바꿀지 결정하는 자리