오픈AI 카오스 그후... 18개국 ‘안전 최우선’ 합의했다

최근 오픈AI 이사회와 샘 알트만 공동창업자의 내분이 시장에 파장을 몰고 온 이후, 미국, 영국 등 18개국이 인공지능(AI) 관련 규제안을 내놨다. 전세계 각 국이 안전을 위해 AI 개발 규제안을 속속 마련하는 가운데 설계 단계에서 '안전’을 최우선으로 한 최초의 세부 국제 합의안이다. 한국도 참여했다.

27일(현지시각) 로이터통신 보도에 따르면 26일 미국, 영국 등 18개국은 국제 AI합의를 공개했다. 새로운 지침에 서명한 18개국은 미국, 영국, 독일, 호주, 캐나다, 프랑스, 이탈리아, 노르웨이, 한국, 일본, 체코공화국, 에스토니아, 폴란드, 칠레, 이스라엘, 나이지리아, 싱가포르 등이다.

미국 당국에 따르면 인공지능을 악성행위자로부터 안전하게 보호하는 방법에 대해 상세히 다룬 국제 합의는 이번이 최초다. 20페이지 분량의 문서에서 18개국은 AI 설계 단계에서 가장 중요한 것은 보안이라고 합의했다. 이에 AI를 설계하고 사용하는 기업은 기업 고객과 개인 사용자를 오용으로부터 안전하게 보호하는 방식으로 AI를 개발하고 배포해야 한다.

AI 시스템 남용을 모니터링하고, 데이터를 보호하며 소프트웨어 공급업체 통제한다는 내용 등 일반적인 보안 권장사항을 대부분 담고 있다. 가령 해커가 AI 기술을 탈취하는 것을 방지하는 방법을 다루고 적절한 보안 테스트 후에만 모델을 출시하는 조항 등이다.

다만 법적 구속력은 없다. AI의 적절한 사용이나 모델에 제공되는 데이터가 어떻게 수집되는지에 대한 까다로운 요건도 포함되지 않았다.

옌 이스터리(Jen Easterly) 미국사이버보안및인프라보안국(CISA) 국장은 로이터통신과의 인터뷰에서 "단지 멋진 기능이나, 얼마나 빨리 시장에 출시할 수 있는지, 비용을 절감하기 위해 경쟁할 수 있는지가 최우선이 아니라고 확인한 것에 의의가 있다”면서 “AI 시스템이 안전을 최우선으로 여겨야 한다는 논지에 최대한 많은 국가가 힘을 실어야 한다”고 강조했다.