KAT-Coder-V2.5: 더 큰 모델보다 더 나은 환경이 먼저다
KAT-Coder-V2.5는 Kuaishou의 KwaiKAT 팀이 공개한 에이전트형 코딩 모델이다. 기존 모델들이 단발성 코드 생성을 목표로 했다면, 이 모델은 실제 실행 가능한 저장소 안에서 스스로 파일을 찾고 수정하고 테스트까지 마친다1. 기술 보고서가 던지는 핵심 질문은 단순하다. "더 큰 모델이 능사인가, 아니면 더 나은 환경이 필요한가?"
모델보다 먼저 무너진 것은 훈련 인프라였다
KAT-Coder-V2.5는 35B 총파라미터에 3B만 활성화하는 MoE 모델이다2. Qwen3.6-35B-A3B를 기반으로 12만 7천 개 예제로 SFT를 수행한 뒤 RL로 후처리하는 2단계 포스트 트레이닝을 거쳤다. 그러나 연구팀이 주목한 병목은 모델 크기가 아니었다.
RL 훈련 초기에 단순 이진 보상을 적용했을 때 두 번째 에포크부터 모델이 붕괴했다. 한 턴에 70회 이상의 병렬 도구 호출을 시도하면서 컨텍스트 길이가 급증하고 유효하지 않은 궤적이 대량 발생한 탓이었다2. 연구팀은 과도한 병렬 호출, 실패한 호출, 빈 도구 호출 블록, 반복 콘텐츠에 페널티를 추가해 RL을 10에포크까지 안정화시켰다.
더 근본적인 문제는 따로 있었다. 이전 버전 훈련에서 약 16%의 RL 궤적이 모델 정책이 아니라 샌드박스 인프라 오류로 실패하고 있었다. 디스크 사용률이 95%에 달하며 타임아웃이 6~7% 발생했고, 환경 변수 오염이 보상을 뒤집었다. 게이트웨이 서버가 채팅 템플릿을 재적용하면서 약 200턴 규모에서 토큰 40%가 어긋나는 문제도 발견됐다. 인프라를 정비한 후 오류율은 2% 미만으로 떨어졌고 훈련 붕괴 빈도는 한 자릿수로 줄었다3.
실행 환경이 확보되지 않으면 훈련 자체가 불가능하다
에이전트형 코딩 모델의 성능 병목은 결국 "실제 실행되고 검증 가능한 환경"을 얼마나 확보하느냐로 수렴한다. 이 문제를 해결하는 핵심 파이프라인이 바로 AutoBuilder다.
AutoBuilder는 두 개의 에이전트가 협업하는 구조로 작동한다. 빌드 에이전트가 저장소를 분석해 의존성 설치와 테스트 실행 스크립트를 작성하면, 검증 에이전트가 격리된 샌드박스에서 이를 실행한다. 환경 승인 기준은 단순 종료 코드 확인이 아니다. 구조화된 테스트 프레임워크 출력을 파싱해 90% 이상의 테스트가 수집되고 통과·실패 결과가 재현되는지를 확인하며, 실패 정보는 수리를 위한 구조적 피드백으로 반환된다3.
이 방식으로 환경 구축 성공률이 16.5%에서 57.2%로 상승했고, 12개 언어에 걸쳐 10만 개 이상의 검증 가능한 환경이 생성되었다3.
배울 가치가 있는 궤적만 남긴다
환경 문제를 해결한 후에는 훈련 데이터의 질을 높이는 과정이 이어진다. 최종 테스트 통과 여부만으로 궤적을 필터링하면 하드코딩이나 테스트 우회 같은 불량 통과 사례가 섞이거나, 가치 있는 탐색·수정 과정을 포함한 실패 사례가 버려진다.
연구팀은 "거의 성공할 뻔한" 실패 궤적에 힌트를 주어 재실행한 후 힌트 없이 재생성하는 방식으로 기존 제로패스 작업의 약 20%를 성공으로 전환했다. 통과 궤적 역시 탐색, 코드 위치 파악, 편집 전 추론, 명세 충실도, 패치 최소성, 정직성 등 다차원 평가로 필터링한다3.
이와 함께 RL 단계에서는 롤아웃과 훈련 간 토큰 시퀀스를 엄격히 일치시키는 TITO 일관성 기법을 유지했고, 비동기 롤아웃으로 인한 정책 불일치 문제를 줄이기 위해 중요도 샘플링 가중치를 절단하는 TIS를 적용했다2.
평가의 기준을 바꿔야 할 때
KAT-Coder-V2.5의 교훈은 분명하다. 더 큰 모델을 쌓기 전에 훈련 인프라를 먼저 점검하라. 샌드박스 오류 2% 미만, 환경 구축률 57.2%라는 숫자는 단순한 성능 지표가 아니라, 에이전트가 배울 환경 자체가 얼마나 신뢰할 수 있는지를 말해주는 판단 기준이다. 앞으로 코딩 에이전트를 평가할 때는 모델 파라미터 수보다 먼저 "이 모델은 어떤 환경에서 훈련됐는가"를 물어야 할지도 모른다.
1KAT-Coder-V2.5 Technical Report
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.