클로드 페이블 셧다운: AI는 이제 '상품이 아닌 국가의 전략무기'

AI의 가파른 진화에 정부의 개입이 시작됐다.

AI가 '경제와 안보'라는 국가 경영에 가장 민감한 부문에 절대적 영향력을 행사하기 시작하면서 미 정부가 AI를 멀찍이 지켜보던 자세를 버리고 경기장 안으로 직접 들어왔다.

첫 번째 문을 연 것은 캘리포니아였다.

지난달 개빈 뉴섬 주지사는 행정명령 N-6-26을 통해 주 산하 기관들에 'AI가 일자리를 어떻게 바꾸는지 데이터로 추적하라'고 지시했다.

두 번째 문은 연방 정부가 열었다.

6월 12일(현지시각), 미 정부는 국가안보 권한을 근거로 앤트로픽의 최신 모델인 페이블 5와 그 상위 모델 미토스 5의 작동을 강제로 멈춰 세웠다.

근거는 간단했다.

한쪽은 AI를 '노동시장의 변수'로 다른 한쪽은 '국가안보의 변수'로 다루기 시작한 것이다.

캘리포니아의 명령은 규제가 아니라 '조사'에 가깝다.

문제의 핵심은 정부가 무엇을 금지했느냐가 아니라, 무엇을 세기 시작했느냐에 있다. 그동안 정부의 사고방식은 단순했다. 경기가 나빠지면 실업이 늘고, 그 실업을 GDP와 실업률, 임금과 물가로 사후에 측정한다. 여기서 '기술'은 관심 밖이었다.

그것이 지금까지 정부가 기술을 바라보는 시각이었다. 기술 때문에 사람들이 일자리를 잃든 말든, 그건 시장이 알아서 할 일이었다. 그런데 캘리포니아의 N-6-26은 이 전제를 깬다. 캘리포니아 주정부는 이제 기술 자체가 실업의 원인이 될 수 있다고 보기 시작한 것이다.

그리고 AI가 실업의 원인이 되고 있다는 가정에 따라 고용개발국(EDD)에 90일 안에 실업보험 데이터 기반의 'AI 고용 영향 대시보드'를 만들라고 지시했다.

흥미로운 점은 이 명령문에 반복해서 등장하는 표현이 '조기 경보 체계(early warning signals)'라는 점이다. 이 표현은 과거엔 실업이 급증하기 시작하는 단계에서 사용됐다.

이는 사실상 캘리포니아가 AI를 고용시장에 위협이 될 수 있는 기술로 인식하고 있음을 시사한다. 문제가 터지기 전에 감지하려 하는 이번 움직임은 캘리포니아라서 두 무게를 갖는다. 전 세계 상위 50개 AI 기업 중 33개가 이 주에 있고, AI 산업 규모는 연간 약 3750억 달러에 달하는 시장을 보유하고 있기 때문이다.

AI의 진원지가 이 기술로 인한 고용시장의 충격을 진지하게 추적하기 시작한 것이다.

캘리포니아가 '측정'의 방식으로 시장에 개입을 시작했다면 연방 정부는 훨씬 거친 방식으로 진입했다. 작동을 아예 정지시킨 것이다.

6월 12일(현지시각), 미국 정부가 사상 처음으로 상용 AI 모델의 작동을 강제로 멈췄다.

그 대상은 바로 앤트로픽의 클로드 페이블 5와 그 상위 모델인 미토스 5.

미 정부는 '국가안보'를 근거로 수출통제 지시를 내렸고 앤트로픽은 이를 따르기 위해 두 모델을 전 세계 모든 고객에게서 즉시 차단했다. 정부가 사실상 AI를 상품이 아닌 '통제해야 할 전략 기술' 즉 '무기'로 다루기 시작했다는 첫 번째 공식 신호다.

지시의 형식부터 평범하지 않다.

정부는 이번 조치를 일반적인 소비자 규제가 아닌 '수출통제(export control)'로 분류했다. 핵심 내용은 "외국인의 페이블 5와 미토스 5 접근을 전면 차단하라"는 것이다. 이는 미국 안에 있든 밖에 있든, 심지어 앤트로픽에서 일하는 외국 국적 직원까지 포함한다.

문제는 정부의 요구사항을 지키려면 사실상 모델의 전원 자체를 내릴 수 밖에 없다는 점이다. 누가 외국인인지 실시간으로 가려낼 수 없는 상황에서 결국 앤트로픽은 두 모델의 공개를 원천 차단했다.

여기서 주목할 단어가 바로 '수출통제'다. 일반적으로 이 단어는 무기나 핵 물질, 첨단 반도체 혹은 강력한 암호화 기술처럼 '국가 안보'에 직결된다고 판단되는 품목에 쓰는 통제 도구다.

최첨단 AI 모델에 이 틀이 적용됐다는 건, 정부가 프론티어 AI를 사실상 이런 품목과 같은 범주에 올려놓기 시작했다는 의미다. 지시는 12일 오후 5시 21분(미 동부시각)에 발효됐지만 정작 어떤 안보 우려인지는 구체적으로 설명하지 않았다.

여기서 두 사건이 묘하게 겹치는 부분이 있다. 둘 다, 미 정부가 실질적인 '증거'에 기반해 행동을 한 것이 아니라 '우려'에 기반해 개입을 했다는 점이다.

이는 AI 기술의 진화가 정부의 예상보다 훨씬 빠르게 이루어지면서 경제와 안보에 미치는 영향력이 급속도로 확대되고 있음을 시사한다. 결국 정부는 '증거'를 확인하고 행동에 나서면 이미 늦는다는 '공포'에 기반해 행동을 결정하고 있다는 것이다.

캘리포니아의 경우를 보자.

스탠포드 2026 AI 인덱스에 따르면 '미국인의 약 3분의 2가 AI로 일자리가 줄 것'이라 믿고 있을 정도로 AI에 대한 공포는 임계점을 넘어섰다. 물론 실제 데이터는 이를 입증하는 대규모 일자리 감소를 보여주지 않고 있다.

스탠포드 HAI의 드루 스펜스는 데이터가 더 필요하다고 지적하며 기업이 AI를 사람을 줄이는 '대체'에 쓰이는지, 혹은 직원의 생산성을 더 높이게 하는 '증강'에 쓰이는지조차 아직 정밀하게 가려지지 않고 있다고 강조한다. 그럼에도 정부는 추적 체계를 먼저 갖추고 있는 것이다.

클로드 페이블 5의 정지도 같은 구조다.

앤트로픽의 설명에 따르면 정부가 문제삼은 소프트웨어를 해킹하는 이른바 '탈옥(jailbreak)'의 실체는 "특정 코드를 읽고 소프트웨어 결함을 고쳐달라"는 정도의 작업이었다. 이건 보안 담당자들이 시스템을 지키기 위해 매일 하는 일이고 GPT-5.5를 포함한 다른 공개 모델도 별도 우회 없이 똑같이 해내는 수준이라는 것이다.

그럼에도 정부는 수억 명이 쓰는 상용 모델을 단 하루만에 차단했다. 이는 정부가 인식하는 AI의 영향력이 임계점을 넘어서고 있다는 정부의 '위험 인식'에 기반한다. 정부의 개입 방식이 '사후 대응'에서 '선제적 통제'로 옮겨가고 있다는 의미는 그만큼 정부의 AI 기술에 대한 민감도가 '위험' 수준에 도달했음을 뜻한다.

이 두 사건의 공통점은 정부가 AI를 통제해야 한다고 느낄 정도로 강력해졌다는 사실이다. 클로드 5 정지 사건도 핵심은 탈옥이 사소한 문제인가 아닌가를 넘어서 정부가 이제 AI를 '국가안보 비상권한을 동원할 만큼 위험할 수 있는 기술'로 인식하기 시작했다는 점이다.

이번 사태는 위험이 실제로 입증이 되지 않았음에도 그 가능성만으로도 전략물자급 통제가 발동됐다. 캘리포니아 역시 마찬가지 맥락이다. 정부가 AI를 노동시장의 거시변수로 편입했다는 사실만으로 AI가 한 산업의 생산성 도구를 넘어 국가가 관리해야 할 충격 요인의 반열에 올랐다는 뜻이다.

정부의 기술 통제 자체가 만들어내는 위험도 존재한다.

수억 명이 쓰는 모델이, 상세 근거도 없이 구두 증거만으로 하루 만에 멈출 수 있다는 사실은 산업과 투자자 측면에는 완전히 새로운 리스크다. 어제까지 작동하던 핵심 인프라가 오늘 정부의 지시 한 장에 멈출 수 있다면 이는 AI 기업의 사업 연속성과 밸류에이션을 흔드는 변수가 된다는 의미다.

캘리포니아의 정책 대응도 같은 구조가 엿보인다. 정부가 AI 실업 데이터를 쌓기 시작하면 그 데이터는 반드시 다음 정책의 근거가 된다. 이는 중요한 시사점을 던진다. 지금 시장은 AI의 도입을 생산성의 향상이라는 한 면으로만 보고 있지만 결국 다음 문장은 'AI 도입은 규제'가 될 것이란 잠재적 리스크를 시사한다.

AI가 강력해질수록 국가는 통제하려 들고, 국가의 통제가 거칠수록 그 통제 자체는 시장에 또 다른 위험이 되는 것이다.

이미 시장에서는 이런 움직임을 경계하고 있다. 일부 경제학자들은 정부의 이런 움직임이 "증거보다 공포가 앞서고 있다"며 기술의 혁신이 시장에 충격을 주는 것은 맞지만 실제 확산엔 수십 년이 걸리는 경우가 많다고 지적한다.

문제는 AI가 이 모든 상식을 스스로 빠르게 뒤엎고 있다는 점이다.

AI발 실업 조사와 페이블 5 모델의 중지.

이 두 사건은 AI를 바라보는 정부의 시각을 극명하게 보여주는 사례다. 바로 '규제'다. 물론 페이블 5는 곧 복구될 수도 있다. 앤트로픽은 이를 '오해'로 보고 빠른 복구를 위해 움직이고 있다고 전했고 캘리포니아의 대시보드도 당장 규제를 낳지는 않는다.

하지만 이미 선례는 만들어졌다. 앤트로픽이 "AI 기술 개발을 중단해야 한다"며 AI가 스스로 새로운 모델을 창조하는 수준으로 진입하고 있음을 경고한 사실은 AI 모델의 발전이 임계점에 도달하고 있음을 시사한다.

"AI는 위험한 기술이다"는 인식.

한번 박제된 인식은 주홍글씨처럼 쉽게 씻기지 않는다. 이는 프런티어 AI가 '시장에서 자유롭게 거래되는 상품'에서 '정부의 시야와 손이 닿는 통제 대상'으로 자리를 옮기고 있음을 시사한다.

한쪽에선 정부가 AI의 고용 충격을 측정할 권한을 쥐기 시작했고, 다른 한쪽에선 AI의 작동을 멈출 권한을 실제로 행사했다. 이는 기업들이 '더 강력한 모델'을 개발하기 위해서는 사실상 '더 강력한 규제'를 받을 가능성을 인식해야 한다는 의미다.

이는 제도화의 시작을 의미한다. 기술 혁명은 늘 있었다. 하지만 그것을 추적하는 국가 통계 체제가 만들어지고, 반대로 그것을 멈추는 국가 비상권한이 실제로 시행되는 그 순간부터 사실상 제도화는 시작된다.

AI의 발전에 무작정 환호하는 시대가 저물고 있다. 지평선에서 '통제의 시대'가 온다.