Conference

최근 오픈에이(OpenAI)의 챗GPT부터 마이크로소프트, 구글 등으로 이어진 인공지능(AI) 개발 열풍을 두고 부작용에 대한 우려가 커지고 있다. AI 챗봇이 거짓말, 성별, 인종 등에 따른 혐오 발언, 가스라이팅 등을 표출하면서 ‘책임감 있는 AI’이 필요하다는 여론이 거세지고 있다. 마이크로소프트, 구글 등 업계 최전선에서 AI를 개발하고 있는 기업들은 어떻게 구축하고 있을까? 25일(현지시각) 미국 샌프란시스코에서 사이버보안 컨퍼런스 ‘RSAC2023’의 기조연설에서 람 샹카르 시바 쿠마르(Ram Shankar Siva Kumar) 마이크로소프트 애저 데이터카우보이의 진행 아래, 비제이 볼리나(Vijay Bolina) 구글 딥마인드 최고정보보안책임자(CISO), 루만 차우드러리(Rumman Chowdhury) 박사, 다니엘 로러(Daniel Rohrer) 엔비디아 소프트웨어프로덕트보안 부사장(VP) 등 업계 최전선에서 활동하고 있는 기업 관계자들이 나와 ‘책임 있는 AI’ 구축 방법을 논했다. AI 시대엔 윤리가 곧 비즈니스이기 때문이다. 쿠마르는 현재 MS에서 클라우드 침입탐지시스템인 애저센티멘털(Azure Sentinel)을 통해 시스템을 보호한다. 신뢰할 수 있는 AI 그룹을 통해 자사 머신러닝 시스템을 보호하는 역할을 맡고 있다. 비제이 볼리아 CISO는 구글 딥마이드 팀에서 AI 시스템의 안전, 남용, 보안, 개인정보보호 등 위험을 관리하는 팀을 이끌고 있다. 루만 차우드러리 박사는 AI 스타트업 패리티(Parity)의 설립자이자 AI 윤리 분야 권위자로 꼽힌다. 트위터 AI윤리팀 디렉터이기도 했다. 다니엘 로러 VP는 엔비디아에서 23년 동안 보안 솔루션을 구축해온 업계 전문가다.

바수 자칼(Vasu Jakkal) 마이크로소프트 보안 비즈니스 부문 부사장은 미국 샌프란시스코에서 열린 글로벌 보안 컨퍼런스 RSAC2023에서 “우리는 새로운 시대의 정점, AI가 주류가 되는 4차 산업혁명 시대에 서 있다”며 보안 분야에 새로운 혁신적인 변화를 가져올 AI에 대해 발표했다. AI는 오랫동안 보안 업계가 겪어온 여러 가지 문제의 해결책이 될 것이라는 주장이다. 그는 “처음으로 우리에게 방어에서 예방과 예측으로 확장하는 데에 도움이 되는 도구와 기술을 보유하게 됐다"라며 “보안 전용 AI 모델은 우리가 원하는 작업을 수행하고, 인간을 보강하고, 방어자가 불가능했던 작업을 수행할 수 있도록 지원한다"라고 설명했다. 

기업이 디지털로 전환하고 클라우드 도입을 늘리며 디지털 ID(IDENTITY) 보안이 최대 이슈로 부상했다. 디지털 ID는 사용자 이름과 암호다. 사용자를 인증하고 데이터와 리소스에 대한 접속 권한을 부여하는데 이용된다. 세계 최대 보안 행사인 RSAC2023에는 급증한 ID 탈취와 이로 인한 보안 사고에 대응하는 솔루션이 늘었다.크라우드스트라이크 2023 글로벌 위협 보고서에 따르면 최근 기업 사이버 공격과 데이터 유출의 80%는 ID 손상에서 비롯된다고 밝혔다. 포레스터 역시 모든 보안 위합의 80%가 권한이 있는 자격 증명 유출에서 시작된다고 설명했다. 가트너에 따르면 2022년 보안 실패의 75%는 접속 권한과 ID관리에서 사람 실수로 인한 것이다. 2년 전 이와 관련된 공격이 50% 수준이었는데 75%로 증가했다. 공격자는 기업에서 사용하는 디지털 ID와 비밀번호(PW) 활용해 내부 서비스나 시스템에 접근한다. 기업은 정상 ID가 로그인하는 것으로 인식하기 때문에 사이버 공격임을 인지하기 어렵다. 조직이 ID 보안에 관심을 가져야 하는 이유다. 일반적으로 ID 공격은 사회공학 피싱 캠페인으로 시작한다. 피해자는 자신도 모르게 로그인 ID 증명을 제공하게 된다. 공격자가 사용자 ID와 암호를 획득하면 그 이후 조직으로 침투한다. 기업은 중요 시스템에 접속하는 직원 ID는 물론이고 각종 사물인터넷(IoT) 기기 등의 ID를 보호해야 데이터 유출 등의 사고를 방지할 수 있다.

세계 최대 사이버 보안 행사인 RSAC2023이 4월 24일 미국 샌프란시스코 모스코니 센터에서 개막했다. 오프닝 기조 연설자로 나선 RSA시큐리티 로힛 가이(Rohit Ghai) 최고경영자(CEO)는 '다가오는 정체성 위기(The Looming Identity Crisis)'라는 주제로 행사의 시작을 알렸다.  로힛 가이 CEO는 "인공지능(AI) 시대는 아이덴티티(Identity, 이하 ID) 보호가 사이버 보안의 핵심이 될 것이다"며 ID 보안에 대한 새로운 접근방식을 강조했다. ID를 보호하기 위해서는 제로 트러스트 전략이 필수적이며, 제로 트러스트는 인공지능의 도움 없이는 성공적으로 구현될 수 없다. 인공지능을 훈련시키는 것은 결국 인간이며 좋은 인공지능을 구현하는 것도 인간이다.

챗GPT 등 인공지능 기술은 글로벌 비즈니스를 뒤흔들고 있다. 방송통신 장비 산업도 예외는 아니었다. 가장 깊숙하게 들어와 방송통신 산업을 뿌리부터 바꿀 상황인 것으로 나타났다. 지난 15일부터 19일까지 미 라스베이거스 컨벤션센터에서 열린 세계최대 방송장비전시회인 NAB 2023 현장은 '인공지능'이 지배했다. NAB는 지난 1923년 처음 시작 돼 올해로 100년이 된 역사와 전통의 방송장비 전시회로 올해 약 6만5000명의 업계 전문가들이 몰렸다. 참가 인원이 지난해(5만2468명)보다는 많았지만 코로나 팬데믹 이전 '정점'이었던 2019년(9만1000)에는 미치지 못했다. AI의 대공습을본 방송 관계자들은 신기술에 대한 기회와 자신의 산업 기반을 위협하는 불안감이 공존하는 모습이었다.커티스 르게트(Curtis LeGeyt) NAB CEO는 개막 기조연설에서 "AI는 방송장비 업계가 적극적으로 활동할 영역이다'며 "방송장비 산업에 AI 관련성이 높아지고 있는 속도가 놀랍다"고 말했다. 이어 "AI 대기업들은 플랫폼을 이용해 방송 및 라디오 콘텐츠에 접근하고 있다. 우리가 보기엔 엄청난 트래픽을 유발하고 있지만 우리 콘텐츠에 대한 공정한 보상은 없다"며 "AI가 과도한 트래픽을 유발할 수 있는 시점에서 이를 규제할 법안이 필요하다"고 목소리를 높였다.

사이버 보안 산업에 생성AI를 활용한 방어 기술 개발이 대세로 떠올랐다. 세계 최대 사이버 보안 행사인 RSAC2023이 4월 24일 미국 샌프란시스코 모스코니 센터에서 개막했다. 올해 RSAC2023에는 챗GPT가 촉발한 생성AI 열풍을 확인할 수 있었다. 사이버 공격자가 챗GPT를 악용, 악성코드 생성 및 피싱 이메일 제작을 시작했기 때문이다. 사이버 공격자는 GPT를 이용해 더 정교하고 잘 작성된 피싱 기술과 더 영리한 회피 방법을 개발 중이다. AI를 이용해 취약점에 노출된 가치 있는 자산을 찾아내는 것이다. 이에 보안업계는 AI를 악용한 공격을 AI로 대응하는 대책 마련에 재빨리 대응했다. 사이버 보안 솔루션에 AI를 내장하고 자동화에 초첨을 맞췄다. 기업들은 보안 도메인에 특화한 데이터를 머신러닝에 학습해 급증하는 사이버 위협을 대비하고 사이버 인력 부족을 해소하는데 집중한다. 끊임 없는 대응을 자동화하는데 AI가 역할을 할 것으로 기대한다. 제투 파텔(Jeetu Patel) 시스코 시큐리티 앤 협업 EVP는 "인간의 대응으로는 이제 막을 수 없다. 기계의 공격을 기계로 막는다. 사이버 보안 분야에 특화한 도메인 데이터와 노하우를 생성 AI와 연결해 보안 시장이 새로운 변곡점을 맞았다"고 말했다.