AI 도입의 다음 과제는 “얼마나 많이 쓰느냐”가 아니라 “어디에 쓸 가치가 있느냐”입니다. Meta의 토큰 관리 전환은 이 질문을 선명하게 보여줍니다.
토큰은 AI 모델이 처리하는 데이터 단위이며, 영어 기준으로 대략 1.5단어에 해당합니다.1 토큰 사용량이 많다는 것은 AI 호출이 많았다는 뜻입니다. 하지만 그것이 곧 더 나은 결과나 높은 생산성을 의미하지는 않습니다.
토큰맥싱이 왜 문제가 되는가
토큰맥싱은 직원의 AI 활용도를 토큰 사용량으로 측정하려는 방식입니다.1 Fortune은 Meta, Amazon, OpenAI 등 여러 기업이 공식 또는 비공식 토큰 사용량 리더보드를 운영했다고 보도했습니다.1
이 방식의 위험은 지표가 목표가 되는 순간 나타납니다. 토큰 사용량이 성과처럼 보이면, 사람들은 더 나은 결과를 내기보다 더 많은 토큰을 쓰는 방향으로 행동할 수 있습니다. 이는 “측정 지표가 목표가 되면 좋은 측정 지표가 아니게 된다”는 굿하트의 법칙과 맞닿아 있습니다.1
실제 사례도 있습니다. Amazon에서는 일부 직원이 내부 사용량 점수를 높이기 위해 불필요한 작업에 AI 도구를 사용한 것으로 보고됐습니다.1 AI 활용을 장려하려던 지표가 오히려 비용 증가와 왜곡된 사용을 부를 수 있는 셈입니다.
Meta의 전환: 사용 장려에서 사용 관리로
Meta는 약 6,000명의 직원에게 보낸 내부 메모에서 AI 사용량의 “exponential increase”를 언급했습니다.2 단순한 확산 단계를 지나, 사용량과 비용을 운영 차원에서 관리해야 하는 단계에 들어섰다는 신호입니다.
Meta는 2027년부터 AI 토큰을 예산, 할당량, 전용 도구로 관리할 계획으로 알려졌습니다.2 개발자와 엔지니어 팀은 사용량과 지출을 추적하는 중앙 대시보드인 “AI Gateway”도 구축했습니다.2
상징적인 사례는 내부 리더보드 “Claudeonomics”입니다. 이 리더보드에는 30일 조금 넘는 기간 동안 73.7조 개의 토큰 사용량이 기록됐습니다.2 Fortune은 이후 Meta가 직원들이 만든 비공식 토큰맥싱 리더보드를 내렸다고 보도했습니다.1
핵심은 Meta가 AI 사용을 줄이려 한다는 것이 아닙니다. 사용량 자체를 성과로 보는 방식에서 벗어나, 비용과 효과를 함께 보는 관리 체계로 이동하고 있다는 점입니다.
기업이 배워야 할 운영 원칙
AI 비용 관리는 단순한 절약이 아닙니다. 무엇을 성과로 볼 것인지 다시 정하는 일입니다.
좋은 기준은 토큰 수가 아니라 결과입니다. 예를 들어 다음과 같은 지표가 더 실용적입니다.
배포된 기능
줄어든 처리 시간
감소한 오류
개선된 고객 응답 품질
반복 업무 감소
AI를 조직에 도입할 때 필요한 것은 “많이 쓰라”는 구호가 아닙니다. 작업별 예산, 모델 선택 기준, 이상 사용 알림, 결과 중심 평가가 함께 필요합니다.
Meta의 전환이 보여주는 결론은 분명합니다. AI도 결국 관리되는 자원입니다. 많이 쓰는 조직이 아니라, 가치 있는 곳에 정확히 쓰는 조직이 AI 도입의 성과를 얻습니다.
1Tokenmaxxing is over. It was a flawed way to measure a company's ROI from AI. | Fortune
2Meta shifts from "tokenmaxxing" to token managing as internal AI costs reportedly hit billions
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.