[기획] 에이아이폰, 미래 비즈니스 지도 뒤흔든다

AI 혁신이 새로운 챕터로 진입하고 있다. 주인공은 온디바이스 AI. 일명 '에지 AI'로도 불린다. 온디바이스 AI(On-device AI)란 지금까지 생성 AI를 구동하기 위해 이용해야 했던 클라우드 기반의 인프라 없이 로컬 디바이스에서 독립적으로 AI 작업을 수행하는 기기를 의미한다.

데이터 프라이버시와 보안성

온디바이스 AI로 인공지능 혁명이 진화하고 있는 이유는 다양하다. 먼저 데이터 프라이버시와 보안이다. 클라우드 기반 AI는 데이터를 서버에 전송하고 처리하는 과정에서 기업이나 개인의 보안과 프라이버시 문제가 발생할 수 있다. 온디바이스 AI는 데이터를 로컬 기기에서 처리함으로써 이런 문제를 미연에 방지할 수 있다.

비용 절감과 에너지 효율성

비용 절감과 전력 효율성 역시 온디바이스 AI로의 전환을 자극하는 요인이다. 클라우드 기반 AI를 이용하는 비용은 지속적으로 증가할 수 있지만 온디바이스 AI의 경우 초기 비용을 제외하면 장기적으로는 더 효율적일 수 있다.

온디바이스 AI는 에너지 효율성 측면에서도 우위를 점한다. 예를 들어 오픈 AI의 챗GPT는 일반적인 구글 검색과 비교해 약 10배의 전력을 소모한다.

클라우드 AI는 대규모 하이퍼컴퓨팅 파워로 작동하는 만큼 에너지 소모가 크지만 온디바이스 AI는 적은 에너지로 작동, 환경 목표에 부합하며 자원 집약적인 냉각 시스템의 필요성을 줄일 수 있다. 프로세서의 성능이 빠르게 발전하고 있다는 점도 AI 작업을 보다 효율적으로 처리할 수 있다는 점에서 온디바이스 AI로의 전환을 가속화하는 요인이다.

빠른 처리속도와 네트워크 의존성 감소

온디바이스 AI의 경우 응답 속도가 빠르다는 장점도 배제할 수 없다. 클라우드기반 AI의 경우 네트워크를 통해 데이터를 주고받기 때문에 지연시간이 발생할 수 있다. 반면 온디바이스 AI는 로컬 디바이스 내에서 바로 처리되므로 실시간 응답이 가능하다.

사용자의 네트워크 의존성이 감소하고 사용자 경험이 개선된다는 점도 온디바이스 AI로의 전환을 요구하는 요인이다. 온디바이스 AI는 클라우드와 달리 인터넷 연결 없이도 작동할 수 있다. 이는 인터넷 접속이 불안정하거나 제한적인 환경에서 유용하다. 또한 디바이스가 사용자 행동과 콘텍스트 데이터를 학습해 개인화된 경험을 제공한다는 점에서 사용자 경험 역시 개선될 수 있다.