AI, 무엇을 위해 도입하나?... “AX는 기술 전환 아니라 운영 전환”

AI를 향한 기업의 기대는 지금 정점에 가깝다. 경영진은 생산성과 비용 절감을 기대하고, 현업은 손에 익은 반복 업무에서 벗어나고 싶어 한다. IT 부서는 그 사이에서 새로운 기술을 조직에 안정적으로 얹어야 하는 짐을 진다. 세 주체의 기대가 한 방향을 향하는 듯 보이지만, 정작 도입을 시작하면 가장 먼저 막히는 질문은 의외로 단순하다. 그래서 AI를 어디에, 어떻게 적용할 것인가.

이 질문 앞에서 멈춰서는 조직이 많다. 최신 모델을 들이고 챗봇을 만들고 PoC(개념 증명)를 돌리지만, 막상 업무 현장은 좀처럼 달라지지 않는다. 처음에는 신기해서 써보다가 시간이 지나면 접속률이 떨어지고, 결국 ‘도입은 했는데 아무도 쓰지 않는 서비스‘가 남는다.

AX, 곧 AI Transformation(전환)이 어려운 건 기술이 부족해서가 아니다. AI를 도구로만 바라보고, 조직의 일하는 방식과 의사결정 구조를 바꾸는 문제로는 보지 않기 때문이다.

여러 분석이 반복해서 짚는 지점도 여기다. AI 도입과 AX는 다르다.

AI 도입은 도구와 모델, 솔루션을 들여오는 일이고, AX는 일하는 방식과 의사결정 구조 자체를 바꾸는 일이다. AI 도입이 ‘무엇을 만들었는가‘를 묻는다면 AX는 ‘무엇이 실제로 달라졌는가‘를 묻는다. 도구를 들여오는 건 출발점일 뿐이다. 그 도구가 업무 안으로 들어가 무언가를 실제로 바꿔놓아야 비로소 전환이라 부를 수 있다.

기업의 AI 도입 실패는 대체로 닮은 길을 걷는다. 출발은 ‘우리도 AI를 해야 한다‘는 압박이다.

경쟁사가 도입했다는 소식이 들리고, 생산성이 올랐다는 사례가 사내에 공유된다. 그러면 조직은 빠르게 챗봇이나 AI 툴을 검토하고 PoC를 돌린다. 내부 시연까지 가면 데모 화면은 제법 그럴듯하다. 질문하면 답이 나오고 문서도 요약해준다. 여기까지는 성공처럼 보인다. 보고 라인은 만족하고, 다음 단계 예산도 무리 없이 승인된다.

문제는 그다음이다. 실제 업무 흐름 안으로 들어가는 순간 그림이 달라진다. AI가 내놓은 답을 그대로 믿기 어렵고, 사내 데이터와 연결되지 않으니 사람이 다시 확인해야 한다. 업무 기준이나 예외 규칙은 어디에도 문서화돼 있지 않고, 부서마다 같은 고객과 같은 제품을 다르게 정의한다.

결국 AI를 쓰는 일이 업무를 줄이는 게 아니라 확인 절차를 하나 더 얹는 일이 된다. 시간을 아끼려 들인 도구가 일을 한 단계 늘리는 셈이다.

현업의 말은 회사가 달라도 비슷하게 돌아온다. 처음엔 신기했는데 지금은 잘 안 쓴다, 답은 나오는데 믿고 업무에 쓰기엔 애매하다, 우리 데이터와 연결이 안 돼 결국 사람이 다시 본다, PoC 때는 괜찮았는데 운영으로 넘기니 멈췄다.

각기 다른 현장에서 나온 말이지만 가리키는 곳은 하나다. 기술이 모자란 게 아니라 업무에 안착하지 못한 것이다. 이것이 AI 툴 도입의 전형적인 실패다. 기술은 있었지만 업무에 뿌리내리지 못했다.

질문에 답하는 챗봇은 만들었으나 실제로 일을 처리하는 AI는 만들지 못했다. ‘답하는 AI’와 ‘일하는 AI’ 사이의 거리, 그게 곧 AX의 거리다. 그리고 이 거리는 더 똑똑한 모델을 붙인다고 좁혀지지 않는다. 좁혀야 할 대상이 모델이 아니라 업무의 구조이기 때문이다.

AX가 어려운 이유를 모델 성능에서 찾는다면 번지수가 틀렸다. GPT와 클로드, 제미나이는 이미 충분히 강력하다. 모델은 엔진에 가깝다. 그러나 좋은 엔진을 샀다고 차가 목적지에 닿는 건 아니다. 달릴 도로와 운전할 사람, 가야 할 목적지가 있어야 한다. 기업 AX에서 도로는 데이터, 운전자는 현업, 목적지는 성과 기준이다. 이 셋이 갖춰지지 않으면 아무리 좋은 엔진도 제자리에서 공회전한다.

가장 먼저 부딪히는 건 데이터다. AI가 제대로 돌아가려면 데이터가 연결돼야 하는데, 조직 안에서 데이터는 단순한 정보가 아니다. 권한이고 영향력이며 부서의 주도권이다. 어느 부서는 고객 데이터를, 어느 부서는 영업 이력을, 또 어느 부서는 운영 데이터를 쥐고 있다.

‘AI를 위해 데이터를 공유하자‘는 제안은 겉으로는 협업처럼 들리지만 안에서는 ‘네가 쥔 권한을 내려놓으라‘는 말로 번역된다. 데이터 공유가 기술 과제가 아니라 권력 구조의 문제로 미끄러지는 이유다. 정리가 안 됐다, 보안상 어렵다는 합리적 명분 뒤에 데이터를 내주고 싶지 않은 속내가 숨어 있는 경우가 드물지 않다.

데이터를 넘어서면 이번엔 IT와 현업이 부딪힌다. IT는 보안과 권한, 시스템 안정성, 비용을 따져야 하고 현업은 빠른 적용과 손에 잡히는 편의를 원한다. IT 주도로만 끌고 가면 현업은 ‘우리 일을 모르는 사람들이 만든 시스템‘이라 느끼고, 현업 주도로만 가면 IT는 ‘보안도 운영도 고려하지 않은 그림’이라 본다.

AX는 어느 한쪽의 프로젝트가 될 수 없다. 현업이 문제를 정의하고 업무 맥락을 대면 IT가 기술과 운영 구조를 설계하는 식이어야 한다. 현업은 요구사항을 던지는 외주 발주자가 아니라 AI 설계의 공동 주인이어야 한다. 두 부서가 서로를 책임 추궁의 대상이 아니라 협업의 파트너로 볼 때, 그제야 AI는 현장에 뿌리내릴 자리를 얻는다.

그리고 더 조용한 벽이 하나 남아 있다. 관리자의 주도권이 흔들린다는 문제다. AI는 직급과 연차의 질서를 흔든다. 예전에는 경험 많은 사람이 더 많이 알고 더 빨리 판단했다. 그러나 AI를 잘 다루는 저연차 구성원이 자료를 더 빠르게 정리하고, 고객 메일을 더 명확하게 요약하고, 보고서 초안을 더 빨리 뽑아낸다.

일부 고경력자와 관리자는 여기서 불안을 느낀다. ‘AI를 잘 쓰는 사람이 내 역할을 대체하는 것 아닌가.’ 이 불안은 좀처럼 겉으로 드러나지 않는다. 대신 ‘우리 업무엔 안 맞는다‘, ‘신뢰할 수 없다‘, ‘예외 케이스가 너무 많다’ 같은 합리적인 언어로 포장된다. 이 두려움을 다루지 못하면 AX는 조용한 저항에 막힌다. 회의에서는 다들 찬성하지만 현장에서는 아무도 쓰지 않는 방식으로 무너진다.

결국 AX의 실패는 기술 부족이 아니라 운영 방식의 부재에서 온다. 문제 정의, 데이터 기준, 현업 참여, 성과 측정, 확산 구조가 없으면 AI는 조직 안에 자리 잡지 못한다. 그리고 이것들은 전부 사람과 조직의 영역이지 모델의 영역이 아니다.

AX를 성공시키려면 첫 질문부터 바꿔야 한다. ‘AI로 무엇을 해볼까‘가 아니라 ‘우리 조직에서 가장 많은 시간이 새는 곳은 어디인가‘를 물어야 한다. 유행하는 기술에 붙일 자리를 찾는 게 아니라, 사람들이 매주 반복하고 매달 쌓이며 실수와 지연을 만드는 업무를 찾는 일이다. 기술에서 출발하면 용도를 찾게 되고, 문제에서 출발하면 해결책을 찾게 된다.

좋은 적용 대상에는 대체로 공통점이 있다. 일 자체는 단순한데 시간은 꽤 잡아먹고, 주 한두 번씩 월 예닐곱 번씩 반복돼 조직 전체로 보면 누적 시간이 만만치 않다. 여러 사람이 비슷하게 처리하지만 기준은 제각각이고, 처리가 늦거나 누락되면 고객 대응이나 의사결정, 내부 협업이 줄줄이 영향을 받는다. 이런 업무일수록 자동화의 효과가 곧바로, 그리고 반복적으로 체감된다.

메일 업무가 딱 그렇다. 받은편지함에는 메일이 끝없이 쌓이는데 정작 결정해야 할 메일은 시간순 목록 속에 묻힌다. 긴 스레드는 처음부터 끝까지 읽어야 맥락이 잡히고, 비슷한 요청에도 매번 답을 새로 쓴다. 요청과 변경, 수정 이력은 여러 메일에 흩어져 누가 무엇을 언제까지 해야 하는지 한눈에 들어오지 않는다. B2B 고객 응대의 상당 부분이 이메일로 이뤄지고 담당자 한 명이 하루에 수십 건을 처리한다는 점을 생각하면, 여기 쌓인 시간 낭비는 결코 작지 않다.

여기에 AI 에이전트(Agent, 대리인)를 붙이면 역할이 또렷해진다. AI가 먼저 메일을 읽어 핵심 요청을 추리고, 처리할 항목을 체크리스트로 뽑고, 조직의 톤에 맞는 답변 초안을 쓴다. 변경 이력은 타임라인으로 정리하고 후속 업무까지 연결한다. 사람은 최종 판단과 검토, 고객과의 관계에 집중한다.

AI가 모든 걸 대신하는 게 아니라, AI가 구조를 잡고 사람이 결정하는 쪽으로 업무 순서가 바뀌는 것이다. 속도와 정리는 AI가, 검증과 신뢰는 사람이 맡는 분담이다.

중요한 건 이것이 거창한 혁신 프로젝트가 아니라는 점이다. 오히려 AX는 이렇게 작고 반복적인 업무에서 시작해야 한다. 매일 쌓이는 메일, 매주 돌아오는 보고서, 매달 반복되는 정산, 자꾸 빠지는 고객 요청, 늘 새로 쓰는 답변 초안.

이런 일은 특정 부서의 민감한 데이터를 요구하지도, 누구의 영역을 빼앗지도 않는다. 오히려 다들 귀찮아하던 일을 덜어준다. 저항 없이 들어가 효과를 빠르게 증명할 수 있다는 뜻이다. 조직이 실제로 아쉬워하는 자리를 찾아야 한다. 그래야 AI가 ‘써보면 신기한 도구‘가 아니라 ‘없으면 불편한 업무 시스템’이 된다.

AX의 목적은 AI를 많이 쓰는 회사가 되는 게 아니다. 최신 모델을 도입했다는 사실도, 챗봇을 만들었다는 사실도, PoC에 성공했다는 사실도 그 자체로는 충분하지 않다. 목적은 일하는 방식이 실제로 달라지는 것이다. 도입의 성공과 전환의 성공은 다른 층위의 일이다.

그래서 도입에 앞서 조직은 스스로 답해봐야 한다. 우리는 어떤 업무 시간을 줄이고 싶은가. 어떤 실수와 누락을 막고 싶은가. 어떤 의사결정을 더 빠르게 만들고 싶은가. 어떤 데이터를 연결해야 하는가. 이 AI 서비스의 진짜 사용자는 누구인가. 성과는 무엇으로 잴 것인가. 파일럿 다음의 확산은 어떻게 할 것인가. 추상적인 점검표가 아니라 프로젝트의 성패를 가르는 질문들이다.

이 질문에 답하지 못한 도입은 실패할 공산이 크다. 반대로 답할 수 있다면 적용 범위는 자연스럽게 좁혀진다. 조직 전체를 한 번에 갈아엎으려 하기보다 반복 빈도가 높고 시간 낭비가 크며 현업이 실제로 불편해하는 업무부터 손대면 된다. 그리고 그 업무에서 처리 시간과 오류율, 응답 속도, 사용률을 측정해야 한다. 잴 수 없는 성과로는 경영진을 설득할 수도, 현업을 움직일 수도 없다.

AX는 기술 전환이 아니라 운영 전환이다. AI가 대답을 잘하느냐가 아니라, AI가 업무 흐름 안에서 어떤 역할을 맡고 사람이 어떤 판단에 집중하게 되느냐가 핵심이다. 좋은 AX는 사람을 대체하는 일이 아니라, 사람이 더 중요한 일에 시간을 쓰도록 업무 구조를 다시 짜는 일이다.

우리가 AI를 도입하는 이유는 유행을 따라가기 위해서가 아니다. 경쟁사가 했으니 우리도 한다는 것도 아니다. 이유는 분명해야 한다. 반복 업무를 줄이고, 중요한 일이 묻히지 않게 하고, 의사결정을 빠르게 하고, 조직의 지식과 기준을 일하는 방식 안에 녹여내기 위해서다.

AX의 핵심은 하나로 모인다. ‘AI를 도입했는가’가 아니라 ‘AI 도입 후 우리의 일이 실제로 달라졌는가.’ 이 질문에 답할 수 있을 때, AI는 더 이상 아무도 쓰지 않는 툴이 아니라 조직이 일하는 방식을 바꾸는 힘이 된다.

권영해 비즈매트릭스(Bizmatrixx) 대표는 IBM, 딜로이트 등 글로벌 컨설턴트 출신의 연쇄 창업가(Serial Entrepreneur)다.

B2B SaaS(서비스형 소프트웨어) 기반 헬스케어 서비스 펫메이트(Petmate)를 비롯한 여러 스타트업을 설립하고 CEO를 맡아 이끌었으며 두 차례의 성공적인 엑시트를 경험했다. 2015년부터 미국 실리콘밸리 써니베일에서 스타트업을 운영하며 19개국의 팀원들과 서비스 기획부터 운영, 성장, 엑시트까지 전 과정을 직접 경험한 비즈니스·기술 전문가다.

현재는 2023년 창업한 비즈매트릭스의 대표이사로서 CRM(고객관계관리)과 노코드(No-code) 기술을 결합한 차세대 마케팅 및 캠페인 플랫폼 서비스를 선보이고 있다. 삼성전자, LG전자, 유한킴벌리 등 한국의 주요 기업을 대상으로 온라인 캠페인 솔루션과 운영 서비스를 제공했다.

👉관련 기사: 권영해 대표 "챗GPT 쓴다고 생성AI 활용 아냐... 생산성 10배는 높여야"