SoL-Pi: 코딩 에이전트의 토큰과 API 비용을 줄이는 하네스 설계

코딩 에이전트의 비용은 모델 호출 횟수만으로 결정되지 않는다. 긴 작업에서는 동일한 문맥과 로그를 반복해서 읽고, 파일 수정과 검증을 별도 요청으로 처리하면서 토큰 트래픽이 누적된다.

NVIDIA가 공개한 SoL-Pi는 이러한 낭비를 실행 환경인 에이전트 하네스 단계에서 줄이는 오픈소스 확장 프로그램이다. 목표는 작업 자체를 줄이는 것이 아니라, 같은 작업을 더 적은 통신과 비용으로 완료하는 것이다.¹

네 가지 메커니즘이 바꾸는 것

SoL-Pi는 535개 환경에서 자동 연구 루프를 실행해 발견한 네 가지 하네스 메커니즘으로 구성된다. 파일 수정과 후속 검증을 한 번에 처리하고, 반복되는 대용량 결과는 필요할 때 다시 불러올 수 있는 참조값으로 대체한다.

또한 긴 진단 로그에서는 원문과 대조된 핵심 증거를 남기고, 완료된 작업 단계는 조건에 따라 문맥에서 압축한다. 검증이나 근거를 생략하는 대신 중복 전송과 불필요한 재독해를 줄이는 접근이다.¹

EdgeBench에서 SoL-Pi는 토큰 트래픽을 44.7~49.0% 줄였다. API 비용을 약 33% 절감하면서도 GPT-5.6 Sol과 Opus 5에서 기존 Pi 점수의 약 94%를 유지했다.² 이는 모델 선택뿐 아니라 모델 주변의 실행 구조 역시 중요한 최적화 대상임을 보여준다.

도입 전 확인해야 할 조건

SoL-Pi는 Pi 자체를 수정하지 않는다. 공개 확장 API를 통해 설치되는 독립형 확장이며, Pi의 공식 배포판도 아니다.¹ 따라서 사용자는 호환 버전과 설정을 직접 확인해야 한다.

네 가지 메커니즘은 모두 기본적으로 비활성화되어 있어 명시적으로 활성화해야 한다. 로그 축약 기능은 설정된 모델로 진단 내용을 보낼 수 있으며, 일부 원본 자료는 로컬 세션 디렉터리에 남는다.¹ 민감한 저장소에서 사용한다면 데이터 보관 위치와 외부 전송 여부를 먼저 점검해야 한다.

도입 효과를 평가할 때는 비용 절감률만 봐서는 안 된다. 성공률과 검증 누락 여부, 문제가 발생했을 때의 디버깅 가능성을 함께 측정해야 한다. 우선 제한된 작업에 필요한 메커니즘만 활성화한 뒤, 기존 Pi 실행 결과와 비교하는 방식이 적절하다.

요약: SoL-Pi에서 얻을 수 있는 교훈

SoL-Pi는 코딩 에이전트의 효율이 모델 성능뿐 아니라 문맥 관리, 도구 호출, 로그 처리 방식에 따라서도 크게 달라진다는 점을 보여준다. 에이전트 사용을 확대하기 전에 반복 전송과 재처리가 어디서 발생하는지 측정하고, 필요한 메커니즘을 선택적으로 적용하는 것이 핵심이다.

¹⚡ SoL-Pi: Scaling Auto-Research Loops for Efficient Agent Harnesses

²NVIDIA Introduces SoL-Pi: Auto-Research Loops That Cut Coding Agent Token Traffic by Up to 49%