PEEK: LLM 에이전트에 "방향 감각"을 캐시한다

AI 생성 이미지

LLM 에이전트가 긴 문서 묶음이나 코드 저장소를 반복해서 다룰 때, 병목은 단순히 컨텍스트 길이가 아닙니다. 같은 자료를 매번 처음 보는 것처럼 다시 탐색하면, 답변 품질은 흔들리고 불필요한 추론 비용도 커집니다.

MIT CSAIL 연구진이 소개한 PEEK는 이 문제를 “더 많이 기억하기”가 아니라 “더 잘 길잡이하기”의 문제로 봅니다. PEEK는 반복적으로 등장하는 외부 컨텍스트에 대한 재사용 가능한 방향 지식을 작은 컨텍스트 맵으로 보존하는 시스템입니다.¹

PEEK의 핵심: 원문이 아니라 지도를 남긴다

PEEK가 저장하려는 것은 문서나 코드 전체가 아닙니다. 외부 컨텍스트가 무엇을 포함하는지, 어떻게 구성되어 있는지, 어떤 엔터티·상수·스키마가 유용했는지 같은 안내 정보입니다.¹

논문은 이를 컨텍스트 맵이라고 부릅니다. 컨텍스트 맵은 에이전트 프롬프트 안에 유지되는 고정 크기 아티팩트입니다.¹ 즉, 에이전트가 다음 작업을 시작할 때 외부 자료 전체를 다시 훑기보다, 이전 탐색에서 얻은 “지형 정보”를 먼저 참고할 수 있게 합니다.

그래서 PEEK는 일반적인 원자료 저장소나 대화 기록 요약과 다릅니다. 목적은 답변을 그대로 보관하는 것이 아니라, 에이전트가 같은 환경을 다시 만났을 때 빠르게 방향을 잡도록 돕는 것입니다.

왜 필요한가: 반복 컨텍스트의 지식을 재사용하기 위해

기존 방식도 에이전트의 실행 궤적, 원자료 접근 기록, 작업 수준 전략을 보존할 수 있습니다. 하지만 PEEK 논문은 이런 방식들이 반복적으로 등장하는 컨텍스트 자체에 대한 재사용 가능한 지식은 충분히 보존하지 못한다고 봅니다.¹

예를 들어 문서 말뭉치나 코드 저장소를 다루는 에이전트는 매 작업마다 비슷한 구조를 다시 파악해야 할 수 있습니다.¹ 어떤 파일이 핵심인지, 어떤 스키마가 반복적으로 등장하는지, 어떤 상수가 자주 참조되는지 같은 정보는 한 번 파악하면 이후 작업에도 유용합니다.

PEEK는 이 정보를 프롬프트 안의 작은 캐시로 유지해 에이전트가 외부 컨텍스트를 지속적으로 “엿볼 수” 있게 합니다.¹ 여기서 중요한 점은 캐시의 크기가 고정되어 있다는 것입니다. 무한히 쌓는 기억이 아니라, 제한된 공간 안에 다음 탐색에 가장 도움이 되는 방향 정보를 유지하는 구조입니다.

어떻게 작동하나: 방향 지식을 갱신하는 캐시 정책

PEEK의 캐시 정책은 프로그래밍 가능한 구조로 설계되어 있으며, Distiller, Cartographer, Evictor 세 모듈로 구성됩니다.¹

• Distiller는 추론 시점의 신호에서 다른 작업에도 옮겨 쓸 수 있는 지식을 추출합니다.¹

• Cartographer는 추출된 지식을 컨텍스트 맵에 반영할 수 있는 구조화된 편집으로 바꿉니다.¹

• Evictor는 제한된 캐시 안에서 무엇을 유지하고 무엇을 비울지 결정하는 역할을 맡는 모듈입니다.¹

이 구조 덕분에 PEEK는 단순 요약보다 목적이 분명합니다. “이번 답을 어떻게 냈는가”보다 “다음번에 같은 컨텍스트를 더 잘 탐색하려면 무엇을 알아야 하는가”에 초점을 둡니다.

성능보다 중요한 시사점: 에이전트에는 방향 감각이 필요하다

PEEK 논문은 TREC-Q-coarse 및 CL-bench 작업에서 품질이 6.3~34.0% 향상됐다고 제시합니다.¹ 시스템 코드는 GitHub의 zhuohangu/peek 저장소에 공개되어 있습니다.²

하지만 PEEK의 더 큰 의미는 특정 수치보다 설계 관점에 있습니다. LLM 에이전트를 반복 업무에 쓰려면, 단순히 더 긴 컨텍스트를 넣거나 더 많은 기록을 저장하는 것만으로는 부족합니다. 에이전트가 반복적으로 만나는 환경에 대해 무엇을 알아두어야 다음 작업이 쉬워지는지를 별도로 설계해야 합니다.

문서 QA, 코드베이스 분석, 사내 지식 검색처럼 큰 컨텍스트를 반복해서 다루는 작업에서는 답변 자체보다 다음 정보를 캐시하는 편이 더 실용적일 수 있습니다.

• 자료가 어떤 구조로 나뉘어 있는가

• 자주 등장하는 핵심 엔터티는 무엇인가

• 반복적으로 유용했던 상수, 스키마, 파일, 섹션은 무엇인가

• 다음 탐색에서 먼저 확인해야 할 위치는 어디인가

PEEK는 LLM 에이전트의 “기억”을 다시 생각하게 합니다. 좋은 에이전트는 모든 것을 저장하는 에이전트가 아니라, 다시 찾아야 할 세계의 지도를 남기는 에이전트입니다.

¹[2605.19932] PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents

²GitHub - zhuohangu/peek