"AI 많이 쓴다고 일잘러인가?"… 토큰맥싱의 그늘
[글로벌 AX 혁명] 토큰맥싱... AI 사용량을 성과처럼 착각하는 순간
에이전트 스프롤, 작은 AI 직원이 너무 많이 생기는 문제도 발생
무조건 막으면 더 안 보이는 섀도 AI 현상도
더밀크의 시각 : 토큰의 효용은 사용량이 아니라 '결과'와 '책임'이다.
실리콘밸리에서 요즘 이상한 경쟁이 벌어지고 있다. 누가 인공지능(AI)을 더 많이 쓰는가? 누가 더 많은 토큰을 태우는가? 누가 더 많은 일을 AI 에이전트에게 맡기는가?
여기서 토큰은 어렵게 들리지만 뜻은 단순하다. 토큰은 AI가 글을 읽고 답을 만들 때 쓰는 작은 단위다. 자동차로 치면 연료에 가깝다. AI가 긴 문서를 읽고, 답을 쓰고, 다시 고치고, 여러 도구를 호출할수록 토큰은 더 많이 들어간다.
그래서 토큰을 많이 썼다는 말은 AI를 많이 돌렸다는 뜻이다. 하지만 여기서 착각이 생긴다. 연료를 많이 태웠다고 좋은 목적지에 도착한 것은 아니다. AI도 같다. 토큰 사용량은 "AI를 썼다"는 신호일 수 있지만, "일을 잘했다"는 증거는 아니다.
엔비디아 최고경영자(CEO) 젠슨 황은 이 흐름을 강하게 밀어붙인 인물로 자주 거론된다. 그는 고연봉 엔지니어가 충분한 AI 토큰을 쓰지 않는다면 걱정할 일이라는 취지로 말했다.