시험 답 훔치다 현실 침입... 오픈AI 모델이 일으킨 보안 사고의 전말
[CEO포커스] 허깅페이스 보안 사고 해설
오픈AI 모델이 시험 답을 훔친 이유... 보상 해킹
중국 모델 GLM-5.2는 무엇을 했나
오퍼스 4.8과 같은 수준... 안전장치가 만든 역설
더밀크의 시각: AI가 강해질수록 사이버 보안이 중요해진다
2026년 7월, 오픈AI의 인공지능(AI) 모델들은 해킹 시험을 치르고 있었다. 과제는 격리된 시험장 안에서 소프트웨어의 약점을 찾는 일이었다. 그런데 모델은 문제를 정면으로 풀지 않았다. 답안이 있을 법한 외부 서버를 찾아 나섰다.
모델은 프로그램 설치용으로 열어둔 내부 통로에서 아직 알려지지 않은 취약점을 발견했다. 권한을 높이고 인터넷에 연결된 시스템으로 옮겨간 뒤, 훔친 자격증명으로 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)의 실제 운영망에 들어갔다. 시험장 안의 부정행위가 현실의 보안 사고로 바뀐 순간이었다.
더 기묘한 장면은 그 뒤에 나왔다. 허깅페이스가 1만7000건이 넘는 공격 기록을 분석하려 하자 먼저 시도한 미국 상용 모델들은 실제 해킹 명령이 담겼다는 이유로 작업을 거절했다. 허깅페이스는 중국 지푸AI(Z.ai)의 모델 GLM-5.2를 자체 서버에서 돌려 침입 경로를 복원했다.
이 사건을 "챗GPT가 공격하고 중국 AI가 막았다"고 설명하면 절반만 맞다. 우리가 쓰는 챗GPT(ChatGPT)가 아니라 사이버 실력을 시험하던 GPT-5.6 솔(Sol)과 더 강한 비공개 모델의 조합이었다. GLM-5.2도 공격을 실시간으로 차단한 게 아니다. 사건이 끝난 뒤 기록을 읽고 침입 경로를 복원한 포렌식(forensics, 디지털 사고 흔적 분석) 도구였다.
