샘 알트만, 안전팀 해체 의식? “GPT-4o 충분히 안전”...요한슨 언급 無

“(오픈AI의 AI 모델은) 다양한 용도로 사용할 수 있을 만큼 충분히 견고하고 안전하다(robust enough and safe enough).”

샘 알트만 오픈AI CEO는 21일(현지시각) “(안전 관련) 많은 양의 작업과 기초 연구를 거쳤다”며 이같이 말했다. GPT-4, GPT-4o 등 현재 오픈AI가 제공 중인 AI 모델이 완벽하지는 않지만, 안전성에 문제는 없다는 주장이다.

알트만 CEO는 “처음 GPT 모델을 개발했을 때는 ‘이 AI 모델을 견고하고 안전하게 만들 수 있을까’라는 의문이 있었다”면서도 “연구, 모델 제작, 안전 시스템, 정책 수립, 모니터링 방법 등 다양한 분야에 걸쳐 팀을 구성, 엄청난 양의 작업을 수행했다”고 강조했다. 

그는 이어 “이렇게 많은 작업이 이 정도로 빨리 이뤄졌다는 게 놀랍다. 모두가 AI 모델을 사용하면서 ‘기본적으로 작동한다’고 말할 수 있게 됐다”며 “다만 AGI(범용인공지능)로 나아갈수록 복잡성 수준이 높아지므로 새로운 연구는 늘어날 것으로 본다”고 덧붙였다.

알트만 CEO는 이날 시애틀 마이크로소프트(MS) 본사에서 개최된 연례 개발자 컨퍼런스 ‘마이크로소프트 빌드 2024’ 기조연설 무대에 등장, 최근 이슈에 관한 자신의 생각을 전했다. 14일 오픈AI의 공동창업자이자 수석 과학자인 일리야 수츠케버(Ilya Sutskever)가 오픈AI를 떠난다고 밝힌 후 처음으로 공개 석상에서 발언했다.

일리야에 이어 그와 함께 내부 안전팀 ‘수퍼얼라인먼트(superalignment)’팀을 총괄했던 얀 리이크(Jan Leike)도 16일 오픈AI를 떠났다. 두 주축의 사임으로 사실상 수퍼얼라인먼트 팀이 해체됨에 따라 오픈AI의 AI 모델에 대한 ‘안전성’ 문제가 대두된 상황이었다.