AI가 내 업무를 100% 대체하지 못하는 이유

"우리 잘못은 아니다"

AI와 채팅창 앞에 앉으면 막막한 경우가 많다. 내 일을 도와줄 수 있다고 하는데 AI에게 일을 설명하고 있자니 그냥 내가 하는 게 빠른 경우가 많다. 유튜브 등 수 많은 컨텐츠가 일을 자동화 할 수 있다고 이야기하지만 실제 활용되는 예는 기대만큼 크지 않은 것 같다.

과기부·NIA가 진행한 '2023년도 정보화통계조사' 결과 250인 이상 대기업 AI 활용 비율이 36.4%라고 한다. 아마 인력을 실제로 대체한 경우는 그리 많지 않을 것이다.

생성AI 열풍이 불고 있지만 언론이나 소셜미디어에 자주 등장하는 소식 만큼이나 AI는 우리의 삶과 업무를 '가시적'으로 바꿔놓고 있지는 않다.

실제 나우앤서베이 여론조사에 따르면 AI 사용시 가장 불편했던 점은 '동문서답'이었다. AI가 동문서답는 것은 대부분 컨텍스트를 충분하게 제공하지 않았기 때문에 발생한다. AI는 프롬프트에 컨텍스트와 데이터를 많이 넣고 해야 하는 일을 명확히 할수록 더 좋은 결과를 낼 수 있다.

사람이 AI 대비 가진 압도적인 강점은 바로 업무의 컨텍스트를 파악하고 있다는 점이다.

일이 주어지면 사람은 내가 어떤 회사에 어떤 프로젝트를 위해 일을 하는지, 고객은 어떤 취향인지, 지금까지 어떤 피드백을 받았었는지, 주로 어떤 데이터 소스를 활용하는지 등에 대한 컨텍스트를 즉시 알고 일에 임한다.

현재의 AI는 그런 특정 상황(컨텍스트)에 대한 지식이 없이 일을 한다. 상황에 대한 지식이 없는 사람에게 일을 시키게 되면 대학생 인턴처럼 큰 도움이 안되는, 오히려 부실한 결과물 때문에 내가 더 많은 일을 하게되는 상황에 처할 수밖에 없다. 즉 '짬'이 전혀 없는 일꾼이다.

사람이 AI에 비해 압도적으로 뛰어난 또 하나의 포인트는 일을 계획하고 분할해서 한다는 점이다. 현재 AI는 일을 하나 시키면 그에대한 즉각적인 답만을 제시한다. 반면 사람은 일을 계획하여 하나하나 작업한다.

사람은 최근 산업 동향 리포트를 써 오라는 일을 받으면 전체 범위를 정하고, 소스를 정하고, 자료조사를 하고, 전체 보고서의 아웃라인을 잡고, 한 챕터씩 써나간다. AI는 아직 그렇게 하지 못하고 있다. AutoGPT가 그러한 시도를 해 보았지만 컨텍스트 크기의 한계 등으로 인해서 좋은 성능을 보여주지는 못하였다. 

정리하면 현재 AI가 나에게 주어지는 일을 100% 대체하지 못하는 이유는 다음과 같다.

1. 업무에 대한 주변 지식이 부족하다.

2. 이전에 제공한 피드백에 대한 기억력이 없다.

3. 업무 계획을 세워서 여러개의 임무를 체계적으로 해내지 못한다.

그런데 이 모든 것이 AI가 할 수 있는 일이기도 하다. 업무에 대한 주변 지식은 정리해서 주면 된다. 내가 일하는 회사가 어떤 회사인지, 부서는 어떤 부서인지, 직책은 무엇이고, 주변 도움을 받을 동료들은 누구이고, 이전에 어떤 일이 있었고, 올해 목표는 무엇이고, 이번 주 목표는 무엇이고, 현재 시장 점유율을 어떻고 등등. 방대한 데이터이지만 제공하게 된다면 컨텍스트에 대한 이해가 높아진다.

이전에 제공한 피드백도 정리해서 주면 된다. 이 또한 귀찮은 일이지만 지금까지 있었던 피드백을 정리해서 모아놓고, 일을 시키는 사람이 원하는 스타일을 열심히 설명해 주면 된다. 

마지막으로 업무 계획은 프롬프트 엔지니어링으로 가능하다. 처음부터 "일을 해 줘"라고 하는 것이 아니라 "이 일을 위한 계획을 세워줘"라고 하고 하나하나 실행하면 된다. 물론 이 또한 귀찮은 일이다. 그럴바엔 내가 일을 하고 말지라는 생각이 들 수도 있다.

이러한 한계를 극복하기 위해서 필요한 것은 다음과 같다.

1. AI에 입력할 수 있는 컨텍스트의 크기 증대.

2. AI에게 기억력 부여.

3. AI에 계획 능력과 다단계 실행 능력 부여.

이 모든 것들이 오픈AI와 모든 AI 사업자들이 현재진행형으로 풀고 있는 문제들이다. 컨텍스트의 크기는 이미 어느 정도 해결이 되었다.

구글 Gemini 1.5와 Claude 3의 Opus 모델은 1백만 토큰 인풋 사이즈를 지원한다. 약 75만 단어에 달하는 양으로 프로그래밍 할 때에는 코드 베이스 전체를 집어 넣을 수 있고, 회사에서는 웬만한 관련 문서를 다 집어넣고 명령을 내릴 수 있다. GPT-4가 12만 토큰 사이즈를 자랑했었는데, 그보다 8배에 달하는 크기이다. 

오픈AI는 챗봇에 기억력을 넣는 기능을 이미 완성하여 출시를 진행하고 있다. 이제 AI가 이전에 주었던 피드백도 기억해 낼 것이고, 다른 부서에서 입력한 데이터도 공유할 수 있을 것이다.

예를 들어, "이전에 토블 물산과 진행했던 수출 건 어떻게 되었어?"라고 물으면 "토블물산과의 수출 건은 현재 순조롭게 진행 중입니다. 지난주에 계약서를 모두 작성하고 서명을 완료했습니다. 첫 번째 물량은 다음 주 월요일에 출고 예정이고, 이후 매월 초에 정해진 물량을 공급하기로 했습니다. 토블물산 측에서도 일정에 큰 문제가 없다고 합니다." 이런식으로 다른 부서에서 보고했던 내용들을 종합적으로 제공해 줄 것이다.

마지막으로 AI의 계획 능력과 다단계 실행 능력은 토블에이아이(Tobl.AI)에서 만들고 있는 영역이기도 하고 여러 AI 플랫폼에서 만들고 있다. 구글도 워크벤치(Workbench), MS도 파워오토메이트(Power Automate)이 있고 재피어(Zapier)도 있다. 앞으로 챗봇 자체에도 이런 기능이 추가되지 않을까 기대하고 있다.

결론적으로 현재 AI가 현업에 큰 도움이 되지 않는 것은 내 잘못이 아니다. AI가 덜 똑똑하기 때문이다. 그런데 그 이유를 살펴보고 나니 100% 대체될 수 있는 날이 얼마 남지 않은 것 같아 더 걱정이긴 하다.