AI 모델은 점점 더 똑똑해지고 있습니다. 그런데 현장의 AI 시스템은 여전히 엉뚱한 문서를 근거로 답하고, 이전 결정을 잊고, 잘못된 도구를 호출하고, 최신 정책을 놓칩니다. 문제는 모델의 지능만이 아닙니다. 많은 실패는 모델이 답변 순간에 무엇을 보고 있었는가, 즉 컨텍스트의 품질에서 시작됩니다.
이 책은 프롬프트를 더 멋지게 쓰는 법을 넘어, AI가 판단에 사용할 정보 환경을 어떻게 설계할지 다룹니다. 토큰과 컨텍스트 윈도우, 어텐션 예산, KV 캐시 같은 기본 원리에서 출발해 시스템 지시, 검색 결과, 메모리, 도구 출력, 권한, 정책, 대화 기록을 하나의 실행 가능한 컨텍스트로 조립하는 방법을 설명합니다.
특히 RAG, 장기 메모리, 대화 압축, 도구 호출, 멀티 에이전트, 프로덕션 파이프라인, 평가와 거버넌스까지 실무에서 바로 부딪히는 문제를 중심으로 정리했습니다. 좋은 AI 시스템은 좋은 모델만으로 만들어지지 않습니다. 필요한 정보를 기록하고, 고르고, 줄이고, 분리하며, 관측하고 개선하는 운영 능력에서 만들어집니다.
