한눈에 보는 요약
Caveman은 Claude Code와 Codex에서 응답을 일부러 아주 짧고 거칠게, 말 그대로 "원시인 말투"처럼 압축해서 출력 토큰을 줄이는 플러그인이다. 자료에서 강조하는 포인트는 평균적으로 약 65~75% 정도 출력 토큰을 줄일 수 있다는 점이다.1
중요한 건 이 도구가 모델의 추론 자체를 바꾸는 게 아니라, 최종적으로 밖으로 나오는 답변을 덜 꾸미고 덜 설명적으로 만드는 쪽에 가깝다는 점이다. 즉, 사고 토큰은 그대로 두고 출력 토큰만 줄이는 방식으로 소개된다.1
내가 보기엔 이건 단순한 "짠돌이 모드"가 아니라, LLM 답변의 밀도를 의도적으로 높이는 실험처럼 느껴졌다. 비용 절감도 분명 의미 있지만, 개발 워크플로우에서는 오히려 응답 속도 체감과 읽는 피로도 감소가 더 크게 다가올 수 있겠다.1
무엇인지
Caveman은 Claude Code와 Codex용 플러그인이다. 핵심 아이디어는 꽤 단순하다. 모델이 흔히 붙이는 인사, 서두, 완충 표현, 장황한 설명을 걷어내고 핵심만 남기자는 것이다.1
다만 무작정 모든 걸 줄이는 건 아니다. 코드 블록, 기술 용어, 에러 메시지, git 커밋 메시지나 PR 메시지처럼 의미 손실이 치명적인 요소는 유지 대상으로 본다.1 이 부분이 꽤 현실적이라고 느꼈다. 개발자 입장에서는 "짧게 말해줘"보다 "짧되 망가지지 않게"가 훨씬 중요하기 때문이다.
어떻게 토큰을 줄이는지
자료를 보면 Caveman은 답변에서 불필요한 문장 장식을 제거하는 방식으로 동작한다.1 예를 들면, "좋은 질문입니다", "몇 가지 방법이 있습니다", "먼저 배경을 설명하면" 같은 표현은 줄이거나 없애고, 바로 결론과 실행 단계로 들어가는 식이다.
그래서 줄어드는 건 출력 토큰이다.1 이 점은 꽤 중요하다. 흔히 토큰 절약이라고 하면 모델이 덜 생각한다고 오해하기 쉬운데, 여기서는 그런 설명이 아니다. 추론 비용을 건드리기보다, 사람이 읽는 최종 응답을 압축하는 개념에 가깝다.1
개인적으로는 이 방식이 프롬프트 엔지니어링보다 더 운영적인 접근처럼 보였다. 모델을 바꾸지 않고도 팀의 기본 응답 스타일을 "압축형"으로 통일할 수 있기 때문이다.
압축 모드(Lite / Full / Ultra)
Lite는 문법을 대체로 유지하면서 군더더기만 덜어내는 모드다.1 가장 무난한 기본형으로 보인다. 협업 환경에서 처음 도입할 때는 이 모드가 거부감이 적을 것 같다.
Full은 기본 caveman 모드다. 관사를 생략하고 짧은 문장 중심으로 바뀐다.1 "설명형 답변"보다 "작업 지시형 답변"에 더 잘 맞아 보인다.
Ultra는 가장 공격적인 압축 모드다. 거의 전보체처럼 최대한 짧게 말하는 수준으로 소개된다.1 이건 문서 초안 작성용보다는, CLI 보조 응답이나 빠른 디버깅 세션에 더 어울릴 것 같다.
벤치마크에서 인상적이었던 수치
자료에 나온 예시는 꽤 선명하다.1
React 리렌더링 버그 설명은 1,180토큰에서 159토큰으로 줄어 87% 절감이다.1 설명성 답변에서 압축 효과가 특히 크다는 걸 보여준다.
PostgreSQL 연결 풀 설정은 2,347토큰에서 380토큰으로 84% 줄었다.1 설정 가이드처럼 원래 말이 길어지기 쉬운 주제에서 힘을 발휘하는 모습이다.
Docker 멀티스테이지 빌드는 1,042토큰에서 290토큰으로 72% 절감이다.1 이것도 꽤 큰 폭이다.
git rebase vs merge는 702토큰에서 292토큰으로 58% 줄었다.1 개념 비교형 답변이라 앞 사례보단 덜 줄었지만, 그래도 절감 폭은 충분히 크다.
콜백을 async/await로 바꾸는 리팩터링은 387토큰에서 301토큰으로 22% 절감이다.1 이 수치는 오히려 흥미로웠다. 이미 짧고 코드 비중이 높은 응답은 생각보다 덜 줄어든다는 뜻이기 때문이다. 즉, Caveman은 모든 답변을 똑같이 줄이는 도구가 아니라, "쓸데없는 설명이 많은 응답"에서 특히 강한 도구로 보인다.
왜 흥미로운지 / 실무 관점에서 느낀 점
자료에서는 2026년 3월 논문 Brevity Constraints Reverse Performance Hierarchies in Language Models를 함께 언급하면서, 짧은 응답이 오히려 정확도를 높일 수 있다는 맥락도 소개한다.1 이 연결이 재밌었다. 보통 우리는 "더 자세한 답변 = 더 좋은 답변"이라고 생각하기 쉬운데, 실제 사용에서는 긴 답변이 잡음을 늘리고 핵심 판단을 흐릴 때가 많다.
실무적으로 보면 비용 절감보다 응답 밀도와 속도 개선이 더 중요한 포인트처럼 보인다. 개발 중에는 정답률도 중요하지만, 그만큼 중요한 게 "얼마나 빨리 핵심만 읽고 다음 액션으로 넘어가느냐"다. 특히 코드 리뷰, 에러 해석, 명령어 추천 같은 순간에는 장문의 친절함보다 압축된 유용함이 더 낫다.
내가 인상적으로 본 건, 이게 단순히 말투 장난이 아니라 인터페이스 설계에 가깝다는 점이다. LLM이 너무 말이 많아지는 문제를 모델 교체 없이 해결하려는 시도이기 때문이다. 약간 우스운 콘셉트인데, 문제 정의는 꽤 진지하다.
주의해서 볼 점
자료 기준으로 Caveman은 출력 토큰을 줄이는 도구이지, 추론 토큰까지 줄이는 도구는 아니다.1 그래서 "생각 비용까지 확실히 줄어든다"라고 확대 해석하면 안 된다.
또 압축이 강해질수록 문맥 친절도는 떨어질 수 있다.1 특히 초보자 대상 설명, 의사결정 배경 공유, 문서화 초안 작성처럼 맥락이 중요한 작업에서는 Ultra가 오히려 불편할 수 있다.
벤치마크 수치도 작업 종류에 따라 편차가 크다.1 어떤 응답은 80% 넘게 줄지만, 어떤 응답은 20%대에 그친다. 결국 "원래 답변이 얼마나 장황했는가"가 성능을 꽤 좌우하는 것 같다.
설치 및 사용 메모
설치 예시는 다음처럼 소개된다.1
npx skills add JuliusBrussee/caveman
claude plugin marketplace add JuliusBrussee/caveman
트리거 문구 예시도 직관적이다. /caveman, talk like caveman, caveman mode, less tokens please 같은 식으로 켤 수 있다.1
해제할 때는 stop caveman, normal mode 같은 표현을 쓴다.1 자료에는 설치 후 세션 전반에 걸쳐 지속해서 사용할 수 있다는 점도 나온다.1
내가 적용해본다면, 평소에는 Lite로 두고 디버깅이나 터미널 중심 작업에서는 Full로 올릴 것 같다. 문서 초안이나 팀 공유용 설명을 쓸 때만 다시 normal mode로 푸는 식이 가장 실용적으로 보인다.
출처
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.