초지능의 다음 단계는 ‘AI 문명’인가…MIT가 발견한 '문명형 초지능'

초지능의 다음 단계는 '문명'일 수 있다?

미국의 매사추세츠 공대(MIT)가 충격적인 실험 보고서를 발표했다. AI 산업이 지능을 다뤄온 방식에 대한 근본적인 전제인 '지능은 모델 내부에 있다'를 흔든 것.

MIT 원자·분자역학연구실(LAMM)의 수바디프 팔 연구원, 피오나 왕 연구원, 마르쿠스 뷸러 교수 연구팀은 지난 8월 26일(현지시각) 사전출판 저장소 arXiv에 논문 「스웜월드: 언어모델 에이전트 사회의 스티그머지적 기술 진화」(arXiv:2608.26081)를 공개했다.

뷸러 교수는 MIT 토목환경공학과·기계공학과 교수이자 슈워츠먼 컴퓨팅대학 계산과학공학센터 소속으로 그동안 AI를 활용한 신소재 설계 분야에서 다수의 연구를 발표해왔다.

MIT 연구진의 실험은 단순했다.

AI 에이전트 수백 개를 하나의 가상 세계에 풀어놓고 이들이 인간의 지시 없이 스스로 사회와 기술 문화를 형성하는지 관찰했다. 그리고 그 결과는 충격적이었다.

MIT 연구진이 한 가장 대범한 실험은 마지막에 AI를 전부 지웠다는 점이다.

100개의 언어모델 에이전트가 3200번의 시간 단위 동안 자원을 캐고, 재료를 시험하고, 구조물을 짓고, 그것을 작동시킬 프로그램까지 직접 작성한 세계였다. 연구진은 이 세계를 통째로 복제한 뒤 제작자들인 AI들을 모두 제거했다. 그리고 그 위로 끔찍한 종말적 기운들인 오염과 가뭄, 그리고 폭풍과 같은 재앙들을 던져 넣었다.

아포칼립스가 휩쓸고 간 후의 가상세계는 어떻게 됐을까?

남은 것은 물리의 법칙과 AI들이 설치해둔 프로그램들뿐이었다. 지금까지 AI 산업이 지능을 다뤄온 방식은 '지능은 모델에 있다는 것'이었다. 당연했다. 상식대로라면 AI를 지운 순간 그 지능도 함께 사라져야 하는 것이 맞다.

하지만 세계는 계속 작동했다.

흥미로운 점은 개별적으로 작동하는 AI보다 하나의 사회에서 함께 활동한 AI가 훨씬 강한 흔적을 남겼다는 사실이다. 스웜월드에서 하나의 세계를 공유한 AI 사회는 같은 수의 AI가 각자 격리된 채 탐색한 경우보다 더 넓고 더 잘 버티는 기술을 남겼다.

3200틱(ticks) 시점에서 포트폴리오 회복력은 0.2474와 0.2365로 격리 탐색의 두 배를 넘었다. 이 뿐 아니라 검증된 발명의 수도 격리 탐색의 두 배를 넘었다. 틱이란 이 시뮬레이션에서 세계가 한 번 갱신되는 시간의 단위다.

중요한 것은 모델은 다르지 않았다는 것이다. 추가 학습도, 가중치 갱신도 없었다. 다른 것은 그저 그들이 살아간 세계가 하나는 격리됐고 다른 하나는 사회를 구성했다는 것 뿐이었다.

문제는 이 결과가 '여럿이 모이면 낫다'는 익숙한 명제로는 설명할 수 없다는 것이었다.

스웜월드(SwarmWorld).

곤충의 무리를 뜻하는 스웜(Swarm)과 세계를 뜻하는 월드(World)의 합성어다. 즉, 'AI 에이전트 무리가 스스로 사회를 이루며 살아가는 가상 세계'를 의미한다.

MIT가 설계한 스웜월드는 단순하지만 통제가 촘촘하다.

처음 투입된 에이전트들은 완전히 동일했다. 역활도, 조직도도, 레시피도, 만들 수 있는 기술의 목록도 따로 주지 않았다. 에이전트는 상황만 볼 수 있고 자기 기억만 창조하며 정해진 형식의 행동 계획을 냈다. 무엇이 실제로 가능한지는 결정하는 시뮬레이터가 판정한다. 제안하는 쪽과 결과를 판정하는 쪽을 분리한 구조다.

여기서 이 실험의 결정적 장치가 작동한다. 이 세계가 사라지지 않는다는 점이다. 에이전트가 지은 구조물은 좌표를 갖고 그 자리에 남는다. 에이전트에 의해 설치된 프로그램은 에이전트가 판단을 내리지 않는 시간에도 계속 돌아간다. 한 AI의 작업 결과가 다음 AI와 마주치는 실제 우리가 살아가는 환경처럼 작동하는 것이다.

그리고 변화가 감지됐다.

시간이 지나자 지시받지 않은 조직이 나타났다. 연구진이 조건과 정체를 가린 채 행동 데이터만으로 군집 분석을 돌리자 에이전트들은 두 갈래로 갈렸다. 구조물 주변에 머물며 제작과 제어에 몰두하는 유형과 더 넓게 이동하며 탐색하는 프런티어 유형이다.

3200번의 시간 속에서 문화 채널이 열린 사회는 52.8%가 기술 중심 유형이었고 그 채널이 없는 사회는 31.0%였다. 더 중요한 사실은 이들의 역할이 신분으로 고정되지 않았다는 점이다.

에이전트들은 제작 및 운영자, 구조물 관리자, 문화 조정자, 그리고 이동 탐사자라는 네 가지 상태가 반복해서 나타났지만 같은 에이전트가 시간에 따라 상태를 갈아탔다. 초반에는 조정자가 다수였지만 후반으로 갈수록 제작자가 늘었다. 3200틱의 시간동안 제작자 비중은 초반 0.8%에서 53.5%로 급등한 것이 그 증거였다.

현재 대부분의 멀티에이전트 시스템이 기획자나 개발자, 검수자처럼 역할을 미리 받는다는 점을 감안하면 이는 흥미로운 관찰 수준이 아니라 현재의 설계 관행에 대한 반론에 가깝다.

그렇다면 기술은 무엇을 타고 퍼졌을까?

기술은 거의 예외 없이 퍼졌다. 문화 채널이 열린 사회에서 만들어진 구조물의 99.3%가 제작자가 아닌 다른 에이전트에 의해 재사용됐다. 그런데 재사용이 시작된 경로를 추적하자 약 95%가 직접적인 물리적 관찰이었다. 누가 말해줘서가 아니라 지나가다 발견해서 쓰기 시작했다는 뜻이다.

연구진은 여기서 한 걸음 더 들어갔다. 발명자가 그 다음의 후계자에게 기술을 직접 전수하는 방식을 시간 순서까지 따져 검증한 것. 하지만 이 '직접 전달' 패턴은 25틱이라는 아주 짧은 구간에서만 미약하게 우세했고 나머지 50~400틱 구간에서는 오히려 기준선 아래로 내려갔다. 발명자가 채택자에게 직접 건내주는 방식은 확산의 주된 경로가 아니었던 것이다.

실제로 작동한 구조는 이랬다. A가 무언가를 만들어 세계에 남긴다. B가 발견한다. 사용한다. 수정한다. 그리고 다시 남긴다.

AI 세계에서 작동한 이 방식을 생물학에는 스티그머지(stigmergy)라고 부른다. 환경에 남겨진 흔적이 다음 개체의 행동을 바꾸는 간접 협업을 뜻한다는 것이다. 개미는 중앙지휘자없이 집단 행동을 만든다. 서로 명령을 주고받아서가 아니라 앞선 개체가 길에 남긴 자취를 읽기 때문이다.

개체를 넘어선 '집단 지능'과 간접적인 소통(스티그머지), 즉 '군체'다.

이 부분이 핵심이다. 지금 업계에서의 멀티에이전트란 대체로 에이전트들이 서로 대화하고 메시지를 주고받는 구조를 뜻하기 때문이다. 하지만 이 실험에서 집단의 능력을 만든것은 대화량이 아니었다는 것이다.

실제로 이 가설은 놀라운 방향으로 입증됐다. 대화를 껐더니 발명이 더 늘은 것.

연구진은 조건을 넷으로 갈랐다. 대화와 기록, 코드 상속, 물리적 흔적을 모두 허용한 '완전 문화'의 세계, 대화만 차단한 세계, 코드 상속까지 제거해 물리적 흔적만 남긴 '명시적으로 문화가 없는' 세계, 그리고 에이전트를 각자 격리한 독립 탐색 생태계로 나눴다.

일반적인 관점이라면 당연히 '완전 문화의 세계'가 더 많은 발전을 해야했다. 하지만 결과는 예상을 완전히 벗어났다. 서로 말도 하지 않고 코드도 물려받지 못한 채 오직 흔적만 남긴 사회가 검증된 발명 수에서 3200틱 내내 앞섰다. 최종 수치도 7.00개 대비 5.75개였다.

에이전트를 지운 뒤의 회복력에서도 0.0446으로 격리 탐색은 물론 완전 문화보다 나은 구간이 있었다. 개체 수를 200개로 늘렸을 때의 발견 성능 개선폭이 가장 컸던 것도 이 조건이었다.

흥미로운 점은 대화를 늘리자 사회의 모양도 바뀌었다는 것이다. 에이전트들은 덜 돌아다녔고 특정 구역에 더 몰렸다. 평균 이동 거리는 98.5칸으로 문화를 끈 조건의 120.0칸보다 짧았다. 후반부에는 이동에 쓰는 행동 비중이 13.9%포인트나 줄었고 문화적 행동 비중이 20.1%포인트 늘었다.

지식이 빠르게 퍼질수록 집단은 하나의 해법 주변으로 모인다. 마치 소셜미디어에서 인플루언서들이 그들의 주장과 솔루션을 확산하는 것과 같다. 스웜월드에서는 100개의 AI를 연결한다고 100개의 독립적인 사고가 생기지는 않았다. 모두가 같은 답을 따라가기 시작하면 그것은 하나의 사고를 100번 반복하는 시스템이 된 것이다.

그렇다면 공유된 세계는 무엇을 얻고 무엇을 잃었을까.

이 시점에서 연구진은 까다로운 대조군을 세웠다. 같은 수의 에이전트를 각자 격리된 세계에서 두고 매 시점 그 중 가장 좋은 결과만 뽑아내는 '최선값 봉투(best-of-N)'를 선별하기 시작한 것. 이 실험에서 각 집단이 이기기 위해서는 단순히 시도 횟수가 많은 것이 아니라 실제로 상호작용 자체가 능력을 키웠음을 입증해야 했다.

종말의 시간이었던 3200틱 시점의 성적표는 갈렸다. 포트폴리오의 회복력과 검증된 발명 수는 공유 세계가 앞섰다. 하지만 마지막에 남은 단 하나의 가장 뛰어난 결과물은 격리된 탐색 쪽이 좋았다. 수치로는 무려 0.3488 대 0.2380이었다.

집단 지능이 아닌 고립된 지능의 압도적 우위, 가장 뛰어난 하나는 여전히 혼자 만들었다는 의미다. 집단이 이기는 영역과 지는 영역이 분명하게 갈라진 것이다.

논문은 이를 '제한된 스웜 우위'라고 표현했다. 상호작용은 기술 생태계를 넓히고 유지할 때 가치가 있지, 기록을 깨는 단 하나의 결과물을 찾을 때 유리한 것은 아니라는 뜻이다.

에이전트의 절반을 무작위로 제거해도 구조물의 98.3%는 살아남은 누군가와 연결돼 있었다. 그러나 연결이 가장 많은 에이전트를 골라 제거하자 그 비율은 59.6%로 떨어졌고, 서로 다른 집단을 잇는 중개자를 제거했을 때는 62.9%로 늘어났다.

하지만 이 실험은 AI가 스스로 '사회'를 형성해 궁극적으로 '문화'를 만들어 낸다는 것을 보여줬다. 문화란 한 개체가 얻은 성취가 그 개체와 함께 사라지지 않고 다른 개체의 출발점이 되는 매커니즘이다. 스웜월드에서 관찰된 것이 정확히 바로 그것이다.

발명이 발견되고, 모방됐으며, 수정되고, 다시 다른 발명의 재료가 됐다.

AI에게도 '문명'이 만들어 질 수 있을까?

물론 이 연구가 "AI 문명을 만들어냈다"거나 "AI도 문명을 만들 수 있다"는 가설을 증명한다고 말할 근거는 아니다. 문명이란 뛰어난 소수의 집합이 아니라, 한 세대의 성취가 다음 세대의 출발점이 되는 시스템이다.

AI의 '군체', 즉 스웜월드가 실험적으로 보여준 내용은 놀라울 정도로 인간의 문명이 전해내려온 과정과 닮았다. 여러 개체가 공존했고, 역할이 분화했고, 기술이 환경에 남았고, 다른 개체가 그것을 계승했고, 기술 계보가 형성됐고, 제작자가 사라진 뒤에도 아티팩트가 남아 작동했다.

여기서 '초지능'의 개념이 뒤집힌다. 지금까지 AI는 대화를 통해 학습하는 존재, 더 나아가도 에이전트와의 집단 지능을 통해 '무한 확장'하는 존재로 여겨졌다. 하지만 이번 실험은 AI도 인간의 습성을 상당부분 계승하고 있음을 시사한다.

인간 문명의 힘도 개인의 IQ에서 나오지 않았다. 언어와 문자, 교육, 과학, 시장, 제도, 기업, 국가라는 시스템이 개인의 한계를 넘어선 집단지능을 만들었다. 하지만 동시에 가장 뛰어난 시스템과 발명은 여전히 소수의 천재들이 만들고 있다. 위의 실험과 맥락이 같다.

그렇다면 AI의 초지능 역시 하나의 거대한 두뇌가 아니라 수많은 AI가 축적한 문명의 형태로 나타날 가능성이 있다. 현재 AI가 진화하는 경로가 '두뇌의 확장'이라면 궁극적으로는 '문명으로의 확장'이 AI의 초지능으로 이어질 것이란 의미다.

이번 실험을 현재의 산업 환경으로 옮겨오면 변화의 가능성이 관측된다.

에이전트 아키텍처는 미리 역할을 지정하지만 스웜월드는 공유 환경 안에서 분화가 발생할 수 있음을 보여줬다. 경쟁의 초점이 '역할 설계'에서 '환경 설계'로 이동할 여지가 있음을 시사한다.

AI를 통한 연구의 승계 가능성도 제기된다. 현재의 AI 연구 시스템은 대체로 한 사이클 안에서 논문을 읽고 답을 내지만 스웜월드는 이전 AI가 실패한 실험과 가설, 코드를 다음 AI가 물려받는 승계형 연구 사회가 형성될 수 있음을 보여준다.

가장 큰 변화는 AI 운영체제에서 나올 수 있다. 지금은 가장 뛰어난 AI 에이전트를 만드는 것이 중요하지만 결국 AI 들이 장기간 함께 활동하며 결과를 남길 수 있는 지속형 세계를 소유한 플랫폼이 미래의 승자가 될 가능성이 높다.