[전문] “AI 개발, 미국 리더십 중요”... 샘 알트만 청문회서 안전성·정부 역할 강조

샘 알트만(Sam Altman) 오픈AI(OpenAI) CEO는 16일(현지시각) 미 상원 법사위 법률 소위(Senate Judiciary subcommittee) 청문회에서 “AI의 엄청난 이점을 누리려면 잠재적인 단점을 파악하고 관리하기 위해 함께 노력해야 한다고 믿는다”며 이같이 말했다. AI 기술을 개발하는 데 있어 미국 정부, 의회 등 제도권의 감시와 협력이 중요하다는 주장이다. 

샘 알트만 CEO가 이날 모두발언에서 가장 강조한 두 가지는 AI의 ‘안전성(통제 가능성)’과 ‘잠재력’이었다. AI 기술의 위험 요인은 전문가와 정부가 함께 통제 가능하다고 설파하면서 동시에 전 세계가 경쟁하고 있는 상황에서 ‘과도한 규제’로 미국이 엄청난 잠재력을 가진 AI 산업의 주도권을 놓쳐서 안 된다는 논리다. 

오픈AI는 지난해 11월 AI 챗봇 챗GPT(ChatGPT), 올해 3월 강력한 성능의 대규모 언어 모델(LLM) ‘GPT-4’를 잇따라 선보이며 AI 업계뿐 아니라 전 세계의 주목을 받아 왔다. 이날 미 상원 법사위 역시 뜨거운 관심 속에 제기된 개인정보 침해, 인간과 비슷한 수준의 AI(AGI·인공일반지능) 출현과 같은 우려를 해소하고자 개최됐다. 

다음은 샘 알트만 CEO의 청문회 모두발언 전문.

존경하는 법제사법위원회 위원 여러분, ‘대규모 인공 신경망(large neural networks)’에 대해 말씀드릴 수 있는 기회를 주셔서 감사합니다. 이 자리에 설 수 있어 영광입니다. 저는 오픈AI의 최고 경영자 샘 알트만입니다. 

오픈AI는 인공지능이 우리 삶의 거의 모든 측면을 개선할 수 있는 잠재력을 가지고 있으며, 동시에 우리가 함께 협력해 관리해야 하는 심각한 위험을 줄일 수 있다는 믿음에 기반해 설립됐습니다. 

오픈AI는 사람들이 AI 기술을 좋아하기 때문에 존재합니다. 저희는 지금이 ‘인쇄기가 발명된 순간’이 될 수 있다고 생각합니다. 새로운 시각을 열어 줄 특별한 회사를 만들려면 함께 노력해야 합니다. 그래서 오픈AI를 그런 방식으로 설립했습니다. AI는 특이한 기술이기 때문입니다. 오픈AI는 비영리 조직의 지배를 받습니다. (We are governed by a nonprofit)

오픈AI의 활동은 ‘AI의 혜택을 폭넓게 분배하고, AI 시스템의 안전성을 극대화하기 위해 노력한다’는 우리의 사명과 헌장에 따라 이뤄집니다. 새로운 발견, 기후 변화나 암 치료와 같은 인류의 가장 큰 과제를 해결하는 데 도움이 될 수 있는 도구를 구축하기 위해 노력하고 있습니다. 

현재의 AI 시스템으로는 아직 이런 작업을 수행할 수 없습니다. 하지만 전 세계의 많은 사람이 현재 AI 시스템이 이미 할 수 있는 일을 통해 많은 가치를 얻는 것을 지켜보는 건 매우 뿌듯한 일입니다. 

저희는 사람들이 저희 도구를 사용해 창작하고, 생산성을 높이는 방법을 배우는 모습을 보는 것을 좋아합니다. 미래에는 이런 직업이 환상적인 직업이 될 것이며, 현재의 직업도 훨씬 더 좋아질 수 있을 것이라고 낙관합니다. 

또한 개발자들이 삶을 개선하기 위해 어떤 노력을 기울이고 있는지 확인했습니다. 예를 들어, 스타트업 ‘비마이아이즈(Be My Eyes)’는 시각 장애인이 외부 환경을 인지할 수 있도록 돕기 위해 새로운 ‘멀티모달(multimodal·다중모드, 이미지·텍스트 등 다양한 형태의 정보를 함께 활용)’ 기술과 GPT를 사용했습니다. 

지금까지 배포한 도구의 이점이 위험보다 훨씬 크다고 생각하지만, 도구의 안전을 보장하는 것은 오픈AI의 업무에 있어 매우 중요합니다. 또한 모든 수준의 시스템에 안전 기능이 내장되도록 하기 위해 상당한 노력을 기울이고 있습니다. 

새로운 AI 시스템을 출시하기 전 외부 전문가가 참여하는 광범위한 테스트를 통해 세부적인 검토를 수행하고, 독립적인 감사를 통해 모델이 작동하는 방식을 개선하며 강력한 안전 및 모니터링 시스템을 구현하고 있습니다. 최신 모델 GPT를 출시하기 전 6개월 이상 광범위한 평가, 외부 레드팀(모의 적군) 구성 및 위험 기능 테스트를 수행했습니다. 

그 과정에서 이룬 성과에 자부심을 느낍니다. GPT-4는 유사한 기능으로 널리 배포된 다른 어떤 AI 모델보다 도움이 되며 진실하게 응답하고 유해한 요청을 거부할 가능성이 높습니다. 그러나 여전히 점점 더 강력해지는 모델의 위험을 완화하기 위해서는 각국 정부의 규제 개입이 중요하다고 생각합니다. 

예를 들어, 일정 기능 이상의 AI 모델을 개발하거나 출시할 때 미국 정부가 라이선스 및 테스트 요건을 도입하는 방안을 고려할 수 있습니다. 제가 서면 증언에서 언급한 것처럼 저는 기업도 예술가처럼 정부와 협력할 수 있다고 생각합니다. 가장 강력한 AI 모델이 일련의 안전 요건을 준수하도록 보장하고, 안전 조치를 개발하며 업데이트하는 프로세스를 촉진하는 것, 글로벌 조율 방안을 검토하는 것 등이 여기에 해당합니다. 

그리고 말씀하신 것처럼, 의회가 무엇을 하든 기업이 스스로 책임을 지는 것이 중요하다고 생각합니다. 지금은 AI를 연구하기 놀랍도록 좋은 시기이지만, 사람들이 이 기술의 발전에 따라 우리 삶의 방식이 어떻게 바뀔지 불안해하고 있다는 점도 잘 알고 있습니다. 

우리도 마찬가지입니다. 그러나 오픈AI는 강력한 AI가 민주적 가치를 염두에 두고 개발되어야 한다고 믿습니다. 우리 모두가 AI의 엄청난 이점을 누릴 수 있도록 잠재적인 단점을 파악하고 관리하기 위해 함께 노력할 수 있고, 또 그렇게 해야 한다고 믿습니다. 

이는 미국의 리더십이 중요하다는 것을 의미합니다. 저는 우리 앞에 놓인 위험을 완화하고, 이 기술의 잠재력을 활용해 미국 경제와 세계 경제를 성장시킬 수 있을 것이라 믿습니다. 이 순간을 맞이하기 위해 여러분 모두와 협력하기를 기대하며 여러분의 질문에 답할 수 있기를 고대합니다.

감사합니다.