AI 레드라인은 사라졌다… 전쟁과 권력의 알고리즘이 바뀐다

미국-이란 전쟁이 발발한 지난 3월 1일. 오픈AI와 앤트로픽의 본사가 있는 샌프란시스코에서는 두 개의 전혀 다른 풍경이 동시에 펼쳐졌다.

지난 3일 오픈AI 본사 앞에는 수십 명의 시위대가 모였다. 기후 비영리단체 직원, 은퇴한 경제학 교수, 소프트웨어 엔지니어, AI 멸종론을 우려하는 컴퓨터과학 교수까지 모여 "우리는 로봇 전쟁을 원하지 않는다!"는 시위가 펼쳐졌다. 미국 버지니아 주의회 앞에서 앞에서도 시위가 있었다. 약 200명이 모여 '전쟁을 위한' AI 데이터센터 건설에 항의했다.

이들의 분노는 하나로 모였다. 챗GPT가 군사 AI의 핵심 공급자가 됐다는 것이다. 눈길을 끈 것은 많은 참가자들이 "나는 이미 클로드(Claude) 팬이라 GPT 구독을 끊자(QuitGPT)를 할 필요도 없었다"고 말했다는 점이다. 앤스로픽은 이 혼란 속에서 일종의 도덕적 대안으로 부상하고 있었다. 오픈AI가 트럼프 행정부와 밀착하는 동안, 앤트로픽은 AI 안전의 마지막 수호자로 여겨졌다.

다리오 아모데이 앤트로픽 CEO의 CBS 단독 인터뷰가 미친 여론의 영향이 컸다. 아모데이 CEO는 이 인터뷰에서 "우리는 2가지 레드라인이 있습니다. 클로드 AI를 미국인에 대한 대규모 국내 감시에 쓰지 않게 할 것, 그리고 인간이 전혀 개입하지 않는 완전 자율 무기를 구동하는 데 쓰지 않게 할 것입니다. 우리는 여전히 레드라인을 지키려 합니다. 그 선에서 물러서지 않을 겁니다"라고 말했다.

샌프란시스코의 앤트로픽 본사 앞에는 분필로 "신은 앤트로픽을 사랑합니다" "용기를 칭찬합니다(praise for its ‘courage’)" “스파이 행위를 돕지 말라” 등의 메시지가 쓰여 있었다. 오픈AI와 앤트로픽에 대한 민심을 반영한다.

*아래는 오픈AI와 앤트로픽의 샌프란시스코 본사 앞에서 벌어진 시위(위)와 지지 메시지(아래) 모습

하지만 앤트로픽 CEO 다리오 아모데이(Dario Amodei)가 사내 슬랙에 올린 메모 한 장이 4일 외부로 유출되면서 상황이 바뀌고 있다.

아모데이는 이 메모에서 경쟁사 오픈AI의 국방부 계약을 "80%는 안전 쇼(safety theater)"라고 비판했다. 트럼프 행정부를 향해서는 "오픈AI처럼 독재자 식 찬사를 보내지 않았기 때문에 우리를 배제하고 있다"고 썼다. 더 나아가 트럼프 대통령을 '소인배 독재자'에 빗댔다. 분명 내부 소통용이었겠지만 이 메모가 언론을 통해 외부에 유출되면서 상황은 걷잡을 수 없게 됐다.

👉 오픈AI, 미 국방부와 전격 합의… ‘AI 국유화’와 소버린 AI의 미래

미 국방부의 반응은 즉각적이었다. 국방부는 지난 5일 앤트로픽을 공급망 위험 기업(supply chain risk)으로 공식 지정했다. 트럼프는 "앤스로픽을 해고했다"고 선언했다.

이 명칭은 통상 화웨이나 ZTE 같은 중국기업, 카스퍼스키랩과 같은 러시아 기업 등 '국가 안보 위험' 기업으로외국 적대 세력에게나 붙이는 꼬리표다. 미국 기업에, 그것도 미 국방부와 무기에 깊이 관여한 기업에, 이 꼬리표가 붙는 것 자체가 전례 없는 일이었다.

앤트로픽은 기업으로서의 '생존'에 위협을 받는다. 당장 각사가 클로드를 안써도 각 사가 쓰는 소프트웨어(SaaS) 업체가 클로드를 쓰고 있다면 똑같은 규정 위반이자 '적대' 행위로 간주된다. 고객 서비스 플랫폼이나 데이터 분석 도구 등 모든 업체에 클로드 사용 여부를 확인해야 한다. 필요하다면 해당 기능을 끄거나 소프트웨어를 교체해야 한다. 실제 록히드마틴은 즉각 미 국방부의 조치를 따르겠다고 밝혔다.

앤트로픽 클로드는 '클로드 코드' 등 B2B용 서비스로 급성장했기 때문에 이번 조치는 그야말로 '타격' 그 자체다.

아모데이는 급기야 5일 사과문을 냈다. "회사에게 힘든 하루였고, 메모의 톤에 대해 사과한다. 신중하고 고려된 내 견해를 반영하지 않는다"고 했다.

아모데이는 이 성명에서 국방부의 '공급망 위험 지정'이 법적으로 근거가 없다고 판단하며, 이를 법정에서 다툴(소송) 예정이라고 밝히면서 이탈 할 수 있는 고객을 안심시키기 위해 노력했다. 하지만 불은 이미 번진 뒤였다.

이 사태의 진짜 의미는 아모데이 개인의 실언이 아니다. AI 거버넌스의 구조적 공백이 하나의 사건을 계기로 완전히 노출됐다는 점이다.

이 사과문은 '사과문'에 그치지 않는다. 앤트로픽의 정체성을 바꾸는 선언이다. 그 과정을 이해해야 이번 굴복의 충격과 그 의미가 보인다.

앤트로픽은 지난 2021년 다리오 아모데이 등 오픈AI 출신 연구자들이 "AI를 안전하게 만들기 위해" 창업한 회사다. 단순한 기업 슬로건이 아니었다. 이들은 책임감 있는 확장 정책(Responsible Scaling Policy, RSP)을 공개적으로 약속하고 이를 정기적으로 갱신했다. 더 강력한 모델을 훈련하기 전에 반드시 안전을 보장하겠다는 선언이었다.

실제로 앤트로픽 모델은 최근까지 미국 프론티어 연구소 중 유일하게 기밀 네트워크(사이버넷, SIPRNet)에서 작동이 승인된 모델이었다. 군사 기밀 환경에서도 신뢰할 수 있는 유일한 민간 AI였다. 그 신뢰가 쌓이는 데 수년이 걸렸다.

앤트로픽은 지난 2023년 9월부터 'AI 헌법(Claude’s Constitution)'도 내고 이를 투명하게 공개하고 있다.

보통 AI를 학습시킬 때는 사람이 일일이 답변을 평가하는 방식(RLHF)을 쓰지만, 앤스로픽은 AI에게 '헌법'이라는 명문 규정을 주고, AI가 스스로 그 규정에 따라 자신의 답변을 교정하도록 만들었다. AI가 단순히 데이터를 학습하는 것을 넘어, '인권', '민주주의', '비차별' 등 인류의 보편적 가치를 지키도록 설계 됐다. 사람이 모든 상황을 감시할 수 없으므로 AI 내부에 '양심'과 같은 가이드라인을 심어주어 유해한 답변이나 편향된 정보를 스스로 걸러내게 하는 것이 특징이다.

그러나 앤트로픽의 이 같은 '원칙'이 '전쟁'과 '경쟁' 앞에 무너졌다.

재러드 카플란(Jared Kaplan) 앤트로픽의 수석 과학자는 미 국방부가 앤트로픽 공급망 위험 기업 지정에 대한 논의가 나오자 아모데이와 미팅에서 "경쟁자들이 앞서 달리고 있는데 우리의 공약이 작동하지 않는다"고 말했다. 이 내용은 악시오스, 가디언 등에서 보도됐다.

앤트로픽의 새로운 방침은 '경쟁사가 하는 만큼의 안전'을 따라가겠다는 것이다. '안전하지 않으면 만들지 않겠다'고 했으나 이제는 '경쟁사만큼은 안전하게 만들겠다'로 후퇴한 것이다. 수년간 쌓아온 원칙이 단 한 주 만에 뒤집혔다.

그렇다면 앤트로픽은 왜 굴복했을까? 표면적 이유는 정치적 압박이지만, 구조적 이유는 더 깊은 곳에 있다.

앤트로픽은 스스로 만든 AI 헌법과 회사 설립의 원칙. 그리고 현재 기술 개발 속도와 치열한 경쟁 현실 속에서 고민했다.

상업용 AI 모델은 지금 군사 전용 시스템보다 훨씬 빠른 속도로 성능을 높이고 있다. 오늘의 최신 민간 모델이 6개월 후 군사 AI의 기준이 되는 구조다. 속도전에서 자발적으로 발을 빼는 기업은 시장에서 도태될 뿐 아니라 군사적으로도 무관한 존재가 될 수도 있다. AI의 자기 개선(self-improvement) 속도가 어떤 기업의 자발적 자제도 무력화할 만큼 빨라졌다.

이 상황에서 미국(이스라엘)-이란 간 전쟁이 벌어졌다. AI의 무기화가 가속화되고 그에 따른 기술 발전도 가속화될 수 있다. 이제는 훈련 상황이 아니라 '실전'이다. 실전에 쓰인 것과 그렇지 않고 '훈련'에만 쓰인 것에는 성능에 크나큰 차이가 벌어질 수밖에 없다.

앤트로픽은 원칙과 생존 사이에서 생존을 택했다. 더 정확히는 원칙을 지키는 것이 더 이상 생존과 양립할 수 없다고 판단했다. 아무도 지키지 못할 안전 공약보다, 경쟁 현실을 인정하고 투명하게 경주하는 것이 더 정직하다는 판단이다. 실제로 RSP가 실질적 제동 장치였는지, 아니면 투자자와 대중을 안심시키기 위한 신호 장치에 불과했는지도 논란이었다.

이번 사태가 무엇을 의미하는지는 명확하다. AI 안전을 가장 진지하게 표방하던 회사가 경쟁 압력 앞에 더이상 자발적으로 '자제' 하지 않기로 했다는 것이다. 자발적 AI 거버넌스의 마지막 신뢰할 수 있는 메커니즘은 모두가 지켜보는 가운데 붕괴했다.

'안전'에 대한 기준을 제시하던 기업이 사라졌다.

앤트로픽은 AI 기업 중에서 가장 책임감 있는 기업으로 여겨졌기에, 이러한 변화는 많은 AI 전문가들에게 충격이다.

AI는 사용자들의 사적인 정보를 축적, 상품 판매에 활용할 수 있다. 규제가 없을 경우 무분별한 AI 판매 및 소비주의로 이어질 수 있으며 향후 3년 내 대규모 일자리 손실, 혼란, 규제 없는 AI 소비주의가 발생할 가능성도 높다. AI 기업들은 "아니다"라고 하겠지만 '경쟁' 상황에서 원칙을 무너트렸다.

레드라인은 사라졌다.

오픈AI는 처음부터 "안전이 최우선이다"고 주장하지 않았다. 샘 알트만 축출 사태가 해프닝으로 끝나면서 '상업적 용도'와 '타협'으로 완전히 기울었다. 오픈AI는 기업가치 8400억달러(약 1212조원)의 가치로 총 1100억달러(약 159조원) 규모의 투자 유치 라운드를 마무리하면서 목표를 더욱 확실히 했다.

AGI 달성이 목표이지 '무엇을' '누구를' 위한 AGI는 중요치 않다. 딥마인드는 구글 내부에 있어 독립적 판단이 불가능하다. xAI의 일론 머스크는 제약이라면 무엇이든 무시해왔다.

앤트로픽은 예외였다. AI 업계에서 자발적 거버넌스가 작동할 수 있다는 논리의 마지막 근거가 앤트로픽이었다. 이제 그 예외가 없다. 도덕적이고 안전한 AI 기업이란 존재하지 않는다는 것이 확인됐다.

여기서 더 근본적인 질문을 해야 한다.

AI는 과연 중립적일 수 있을까? 중국에서는 민간과 정부의 융합이 깊어 AI 모델이 공산당 선전 및 시진핑 사상에 완전히 부합하도록 이념적으로 훈련받는다. 바이두의  대표 LLM 시리즈 어니(ERNIE), 알리바바의 큐엔(Qwen), 화웨이의 AI 모델·플랫폼 브랜드 판구(Pangu)는 모두 중국 공산당의 이념적 요구를 반영하도록 설계됐다.

미 국방부는 AI 모델의 합법적 사용을 통제할 뿐 아니라, 그 문화적 가치까지 형성하려 한다. 이번 앤트로픽 사태가 보여주듯, 어느 AI가 어떤 군사 계약을 수주하는가는 단순한 기술 선택이 아니라 정치적 가치 판단의 문제다. 동쪽에서도 서쪽에서도 AI는 이미 정치적 도구다. '중립적인 AI' '안전한 AI' 라는 개념은 처음부터 환상이었다.

AI와 위성, 카메라 기술의 결합으로 미국 정부는 언제든 전 세계 지도자를 제거할 수 있는 능력을 갖게 됐다. AI를 통제하는 자가 권력을 결정하는 미래를 의미한다.

이미 기술 기업은 전쟁의 양상을 바꾸는 플레이어였다. 이 구조 변화를 가장 선명하게 보여주는 사례는 러시아-우크라이나 분쟁의 스타링크(Starlink)다.

스타링크는 지난 2022년, 우크라이나 군이 크림반도 인근 러시아 흑해 함대를 공격하는 드론 작전을 전개할 때 신호가를 갑자기 끊었다. 일론 머스크가 해당 지역의 스타링크 서비스를 차단한 것이다. 민간 위성통신 기업의 CEO가 전쟁의 작전 결과에 직접 개입한 전례 없는 사건이었다.

그리고 이 '행위'는 러시아-우크라이나전의 판세를 크게 바꿔놨다. 단기전으로 끝날 것이란 예상을 깨고 지금까지 전쟁은 이어지고 있으며 오히려 러시아는 인터넷 뿐만 아니라 KGB도 적절한 데이터를 얻지 못해 전쟁에 밀리는 양상도 보였다(북한이 파병하기도 했다). 머스크는 나중에 "핵전쟁을 촉발할 수 있다는 우려 때문"이라고 해명했다.

그것이 진짜 이유든 아니든, 한 가지는 분명해졌다. 민간 기술 기업이 전장의 승패를 결정하는 변수가 됐다는 것이다.

AI도 정확히 같은 경로를 밟고 있다.

앤트로픽이 군사 계약 범위를 놓고 국방부와 충돌하고, 그 결과로 록히드마틴의 공급망이 재편되고, 미국 최대 방산 기업이 AI 공급사를 교체하는 일이 벌어졌다. 이는 AI 기업이 이미 지정학적·도덕적 행위자로 부상했음을 보여준다.

스타링크가 위성 신호를 켜고 끔으로써 작전을 통제했다면, AI 기업은 모델의 사용 범위를 허용하거나 제한함으로써 전장의 정보 환경을 통제한다. 윤리적 논쟁이 계약적 문제로 전환되고 있으며, 그 계약의 결과는 전쟁터에서 나타난다.

이 흐름은 이란 공습 사례에서도 확인된다. 미국이 이란 폭격을 시작한 이후 클로드가 미사일 타격 목표 선정 분석에 활용됐다는 보도가 나왔다. 물론 군사 타게팅 시스템은 소비자용 챗봇과는 근본적으로 다른 복잡한 체계다.

미 국방부 차관 에밀 마이클은 "자율 시스템이 킬 오더를 실행하는 단계에 아직 전혀 근접하지 않았다"고 밝혔다. 하지만 그도 AI가 어떤 역할을 했는지 정확한 사실을 모른다.

아직은 모든 최종 결정 뒤에는 책임을 지는 인간이 있다. 그러나 그 인간의 판단이 AI가 걸러내고 정렬한 정보를 토대로 이루어진다면, AI는 이미 전쟁의 일부다.

AI가 어떤 정보를 먼저 보여주고, 어떤 목표를 상위에 올리고, 어떤 위협을 더 심각하게 평가하는가? 그 알고리즘의 설계 철학이 전장의 결과에 영향을 미친다. 그것이 진짜 이유든 아니든, 한 가지는 분명해졌다. 민간 기술 기업이 전장의 승패를 결정하는 변수가 됐다는 것이다. 다음 전쟁에서는 AI가 '판단'을 내리는 상황이 오지 말라는 법은 없다.

2026년은 세계 질서가 다시 쓰이는 해다. AI를 쥐는 자가 힘을 가진다. 패권을 가진다. 트럼프는 이를 간파했다. 취임 직후 스타게이트(Stargate) 프로젝트에 5,000억 달러를 선언하고, AI를 미국의 국가 전략 자산으로 공식화했다.

중국은 딥시크 쇼크 이후 오히려 속도를 높이고 있다. 알리바바는 매개변수를 7분의 1로 줄이면서도 더 나은 성능을 내는 큐웬 3.5 미디엄을 공개했다. 무조건적인 규모 확장이 아니라 효율 혁신으로 경쟁 방정식을 바꾸고 있다. 그리고 단 일주일 만에 1,350억 달러 규모의 AI 인프라 딜이 성사됐다.

아마존은 오픈AI에 최대 350억 달러를 투자했다. 역사상 처음으로 AGI 달성이 계약 조건이 됐다. 메타는 엔비디아 독점 탈피를 위해 AMD에 1,000억 달러 이상을 투자하고 지분 10%를 취득했다. AI 인프라 전쟁은 정치적 혼란과 무관하게 가속하고 있다.

미국과 중국의 국가와 자본은 천문학적인 규모로 총력을 기울여 AI에 쏟아붇고 있다. 자발적 거버넌스가 무너진 자리를 자본이 채우고 있는 것이다. 레드라인이 사라진 자리에 돈이 흘러들고 있다.

중동이 세계의 첫 번째 화약고라면, 한반도는 두 번째 화약고다. 1953년 정전 협정 이후 73년이 지났지만, 한반도에서 전쟁은 법적으로 끝나지 않았다. 세계에서 가장 높은 밀도로 첨단 무기가 집결한 지역, 핵탄두 50개 이상을 보유한 것으로 추정되는 북한, 그리고 2만 8500명의 미군이 주둔하는 동맹 체제. 여기에 더해 한국은 세계 6위의 방산 수출국이며, 반도체·통신·AI 분야의 글로벌 핵심 공급자다.

중국이 대만 침공을 하더라도 한반도는 안보·경제·외교 면에서 직접적인 충격을 받게 된다.

미국은 주한미군(USFK)을 태평양 전력의 일부로 보고 있어, 대만 유사시 한국 남부(진해·부산·제주 등) 기지와 항만·공역이 후방지원·보급 거점으로 활용될 가능성이 높고 한국은 사실상 중국과의 군사적 대치의 전방 기지가 돼 중국·북한의 군사적 압박과 보복 위험이 커지기 때문이다.

때문에 앤트로픽 사태를 한반도의 렌즈로 다시 읽으면 전혀 다른 무게가 느껴질 수밖에 없다. 미국과 양대 산맥을 만든 중국의 AI 기술도 한반도 유사시, 대만 침공으로 인해 태평양 격변시 직접적 영향을 줄 수도 있기 때문이다.

한반도 유사시 AI가 어디까지 개입할까? 어떤 판단을 보조하는가? 어떤 정보를 먼저 걸러내는가? 그 경계선이 더 이상 어떤 '원칙'에 의해 설정되지 않는다는 뜻이다. 이제 민간 기업이 개입된 계약과 정치적 역학, 그리고 자본의 논리에 의해 결정된다.

구체적으로 생각해보자.

북한이 미사일을 발사했다. 이 미사일은 한국 내 미군 기지를 타깃으로 하는지 발사했는지, 서울의 주요 기관을 타깃으로 발사했는지 발사 초기엔 모른다.

한미 연합 조기경보 시스템이 감지하고, AI가 발사체의 궤도와 목표를 분석하며, 대응 옵션을 정렬해 지휘관에게 제시한다. 그 AI가 어떤 모델인지, 어떤 데이터로 훈련됐는지, 어떤 가중치로 위협을 평가하는지에 따라 지휘관이 보는 그림이 달라진다. 이 AI는 미국의 이해에 기반한 판단을 내리고 한국(또는 미국)의 지휘관에게 대응 전략을 제시할 수도 있는 것이다.

지금 앤트로픽-국방부 협상 테이블에서 벌어지고 있는 논쟁인 "AI가 어디까지 자율적으로 판단하고, 어디서 인간에게 넘기는가?"

이 바로 그 시스템 설계의 문제다. 하지만 그 테이블에 한국의 이해관계가 그대로 반영될까? 혹시 팬타곤과 미국의 AI 기업이 '설계'한, AI가 '결정' 하는 것은 아닐까? 하는 질문을 해야 하는 것이다.

안보만의 문제가 아니다. 산업적 충격도 이미 시작됐다. 한화·LIG넥스원·현대로템이 개발하는 무기 체계는 미국산 AI 플랫폼의 운영 규범 위에서 작동한다. 앤트로픽이 공급망 위험 기업으로 지정되면서 이 시스템들의 소프트웨어 스택에도 변화 압력이 생겼다.

삼성전자와 SK하이닉스가 공급하는 반도체는 미국 AI 데이터센터를 구동하며, 그 AI 시스템이 군사적으로 어떻게 활용되는지의 규범이 반도체 수출 통제와도 연결된다.

KT와 SKT는 미국 클라우드·AI 기업과 협력을 확대하고 있는데, 이제는 그 AI 공급사의 정치적 지위가 언제든 리스크 변수로 돌변할 수 있다.

이번 사태는 한국의 AI 거버넌스 공백을 드러낸다. 적어도 미국에는 앤트로픽처럼 원칙을 걸고 정부와 싸우는 기업이 있었다. 청문회가 열리고, 언론이 보도하고, 전문가들이 공개 논쟁을 벌였다. 불완전하지만 마찰이 있었고 그 마찰 속에서 논의가 이루어졌다.

한국은 국방 AI에 대한 공개 논의는 사실상 없다. 우리는 규범을 만드는 측이 아니라 수입하는 측이기 때문이다. '소버린 AI'를 위해 독자 파운데이션 모델을 만들고 경쟁도 붙였지만 여전히 오픈AI, 앤트로픽, 구글, 메타는 물론, 알리바바, 딥시크 등 글로벌 프론티어 모델과의 실력 차이는 크다.

소버린 AI를 단순히 "국산 모델을 만들자"는 산업 전략으로 접근하면 본질을 놓친다. 핵심은 AI가 어떤 정보를 보여주고, 어떤 위협을 먼저 인지하며, 어떤 행동을 자동화하는가의 설계권을 누가 쥐느냐의 문제다. 그 설계권을 전적으로 외부에 맡긴 채 첨단 무기를 개발하고, 디지털 인프라를 구축하고, 국가 안보를 논한다면 그것은 핵심 없는 껍데기다.

AI 거버넌스나 소버린 AI는 기술 논쟁이 아니다. 엔지니어링 최적화의 문제는 더더욱 아니다. 그것은 2026년 이후 '전쟁의 시대'에 새롭게 짜여지는 국가 방위 시스템을 어떻게 설계할 것인가의 문제이며, 이를 통해 어떻게 국가 안보를 재편할 것인가, 격변하는 세계 질서 속에서 우리는 어떤 위치를 차지할 것인가의 문제다.

우리의 시각이 과거에 머물러 있다면, 다수의 행정, 국방 관료들과 국회의원들이 기술을 잘 모른다는 이유로 소위 전문가들에게 맡긴다면, 그 '전문가'들도 각종 이해관계에 얽힌 사람들이라면, 미국 중국과의 관계가 불편하고 복잡하다는 이유로 어려운 대화를 미룬다면, 그로 인한 피해를 후세들에게 떠넘기는 양상이 될 것이다.

국가 안보에 여야가 있을 수 없다.

AI 레드라인은 '공식적으로' 사라졌다. 그 공백 속에서 AI는 더 빠르게, 더 깊숙이, 더 많은 전장에 침투할 것이다. 2026년, 한국이 이 흐름 안에서 단순한 수용자로 남을 것인지, 아니면 규범 형성에 참여하는 주체가 될 것인지 중요한 의제가 제기됐다. 선택을 미룰 수 있는 시간이 얼마 남지 않았다.