제이콥 콕슨

"그들은 자기개선 초지능으로 질주하면서 우리 생명을 걸고 도박을 하고 있다."8일(현지시각) 소셜미디어 X에 올라온 글입니다. 앤트로픽의 사전학습 연구원 제이콥 콕슨(27)이 그날 사직하며 남긴 글이었습니다. 지분 베스팅을 두 달 남기고, 받을 수 있었던 돈까지 버리고 나갔습니다. 반응은 폭발적이었습니다. 1억 5000만 회가 넘게 읽혔죠.그런데 이튿날 앤트로픽에서 일하는 사람이 답글을 달았습니다."우리는 AI가 모든 인류를 죽일 수 있다고 진지하게 믿고 있다. 10년 안에 그 확률이 10%를 넘는다고 본다."에반 허빙거, 앤스로픽 얼라인먼트 사이언스 책임자입니다. AI가 인간의 의도를 벗어나지 않게 붙잡아두는 일이 그의 본업입니다. 그런 사람의 입에서 이런 무시무시한 말이 나온거죠.👉 왜 중요한가. 게시물 두 개가 미국의 AI 입법 시계를 앞당겼습니다. 걸린 시간은 단 사흘.이틀 뒤 조시 홀리 상원의원이 샘 알트먼에게 보낸 조사 서한에 허빙거의 10%가 근거로 인용됐습니다. 같은 주 스무 명 넘는 의원이 규제 요구에 이름을 올렸고, 로리 트레이핸 하원의원은 X에 "전화는 집 안에서 걸려오고 있다"고 썼어요. 위험은 내부에 있다는 공포영화의 한 대사죠.생각해 보세요. 비행기 열 대 중 한 대가 떨어진다면 아무도 탑승 게이트에 가지 않을 겁니다. 그런데 그 숫자를 비행기 만드는 회사의 안전 책임자가 말한 겁니다. 당연히 사람들은 패닉에 빠졌습니다.🧭 그래서?하원의 프론티어법은 대형 AI 회사에 외부 감사, 24시간 내 사고 신고, 정부의 배포 중단 권한을 강제합니다. 기준선은 성능이 아니라 최근 3년간 개발비 10억 달러이상을 쓴 기업들입니다. 반대로 이야기하면 감사 비용을 감당할 수 있는 회사만 규제 선 안쪽에 남는다는 겁니다. 안전 규제가 진입장벽으로 바뀌는 거죠. 이번 회기 통과 가능성은 낮지만 캘리포니아는 이미 감사 기준 법안을 처리했습니다. 규제 시계가 빨라지고 있습니다.🔗 원문 보기 [워싱턴 포스트]