기업의 AI 사용은 “많이 쓰면 좋다”에서 “값어치 있게 써야 한다”로 넘어가고 있습니다. 핵심은 토큰입니다. 토큰은 대규모 언어모델이 읽고 쓰는 데이터 단위이며, 많은 AI 서비스가 이 사용량을 기준으로 요금을 매깁니다.1 회사 입장에서는 프롬프트, 답변, 에이전트 실행이 모두 비용 항목이 되는 셈입니다.
Meta의 사례는 이 변화가 어디까지 왔는지 보여줍니다. 인스타그램 책임자 애덤 모세리는 Meta가 현재 직원에게 AI 토큰 사용 한도를 두고 있지는 않지만, 불필요하게 토큰을 태우는 활동은 줄였다고 말했습니다.1 내부 AI 토큰 사용 지출 리더보드도 폐쇄됐습니다.2 이제 문제는 “AI를 얼마나 쓰게 할 것인가”가 아니라 “어떤 사용이 실제 성과로 이어지는가”입니다.
토큰 사용량은 생산성이 아니다
기업 내 AI 비용이 커지는 이유는 두 가지입니다. 직원 채택이 늘고 있고, 에이전트형 AI가 더 복잡한 작업을 오래 수행하기 때문입니다.1 코딩, 문서 작성, 리서치, 데이터 분석이 AI로 이동할수록 토큰 사용량은 자연스럽게 증가합니다.
하지만 사용량 증가가 곧 생산성 증가를 뜻하지는 않습니다. 프롬프트를 많이 보냈다고 좋은 코드가 더 많이 나오거나, 에이전트를 오래 돌렸다고 의사결정이 빨라지는 것은 아닙니다. 오히려 사용량을 점수처럼 보여주면 사람들은 결과보다 지표를 최적화할 수 있습니다. Meta가 내부 토큰 사용 리더보드를 닫은 것도 이런 맥락에서 볼 수 있습니다.2
따라서 AI 비용 관리의 출발점은 절감이 아니라 구분입니다. 반복 작업을 줄이는 사용, 더 빠른 분석을 가능하게 하는 사용, 품질을 높이는 사용은 장려해야 합니다. 반대로 결과와 연결되지 않는 실험, 불필요하게 긴 실행, 고급 모델의 습관적 사용은 관리 대상입니다.
기업들은 이미 토큰 예산을 정하고 있다
SemiAnalysis는 50곳 이상의 기업 고객과 대화해 엔터프라이즈 AI 토큰 지출 흐름을 조사했습니다.2 조사에 따르면 대부분의 기업은 AI 사용에 하드캡을 두고 있었습니다. 다만 한도는 회사마다 크게 달랐습니다.
일부 미국 항공우주·방산 대기업은 직원당 월 250달러 한도를 두었고, 한 대형 제약사는 월 500달러 한도를 설정했습니다.2 반면 Workday와 Stripe의 직원 AI 예산은 월 약 2,000달러 수준으로 언급됐습니다.2
더 세밀한 방식도 등장하고 있습니다. 일부 기업은 직급이나 업무 유형에 따라 유연한 AI 예산을 적용합니다. 한 공개 사이버보안 기업은 주니어 직원에게 월 800달러, 시니어 직원에게 월 1,600~4,000달러의 소프트 리밋을 뒀습니다.2 같은 회사 안에서도 업무 난이도, 데이터 처리량, AI 의존도에 따라 적정 예산이 달라진다는 뜻입니다.
좋은 한도는 사용을 막지 않고 판단을 돕는다
AI 토큰 예산은 단순한 비용 절감 장치가 아닙니다. 잘 설계된 한도는 조직이 어떤 AI 사용을 중요하게 보는지 알려주는 기준이 됩니다.
예를 들어 모든 직원에게 같은 금액을 배정하면 관리가 쉽지만, 실제 업무 차이를 반영하기 어렵습니다. 반대로 직무와 프로젝트별로 예산을 다르게 주면 운영은 복잡해지지만, 더 현실적인 통제가 가능합니다. 하드캡은 예산 초과를 막는 데 유용하고, 소프트 리밋은 사용 패턴을 보며 대화와 조정을 시작하는 데 적합합니다.
중요한 것은 “무조건 덜 쓰기”가 아닙니다. 기본 작업에는 저렴한 모델을 쓰고, 고난도 코딩·분석·추론처럼 가치가 큰 작업에는 더 비싼 모델을 허용하는 식의 설계가 필요합니다. 토큰 예산은 차단선이 아니라 우선순위 설정 도구가 되어야 합니다.
AI 비용 관리는 사용 설계의 문제다
앞으로 AI 토큰은 클라우드, GPU, SaaS 라이선스처럼 관리될 가능성이 큽니다. 실험 단계에서는 무제한 사용이 학습과 확산에 도움이 될 수 있습니다. 하지만 조직 전체로 확산되면 비용, 보안, 생산성을 함께 봐야 합니다.
Meta의 사례가 보여주는 결론은 단순합니다. AI를 많이 쓰는 조직이 앞서는 것이 아니라, AI 사용을 성과와 연결하는 조직이 앞섭니다. 토큰을 아끼는 것만으로는 충분하지 않습니다. 어떤 업무에 얼마의 AI 예산을 배정할지, 어떤 사용을 장려하고 조정할지 정하는 능력이 다음 경쟁력이 됩니다.
참고
2TokenBudgeting: Our Conversations with Enterprises on Token Spend
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.