기업용 AI에서 RAG는 이미 익숙한 접근법입니다. 질문과 관련된 문서를 검색하고, 그 내용을 모델에 넣어 답변을 생성하게 합니다. 하지만 실제 업무 질문은 대개 한 문서 안에서 끝나지 않습니다. 여러 시스템에 흩어진 정보를 조합해야 하고, 답변 전에 근거가 충분한지도 판단해야 합니다.
Google Research는 2026년 6월 5일 “Unlocking dependable responses with Gemini Enterprise Agent Platform’s Agentic RAG”라는 글을 공개했습니다.1 이 글은 Data Management, Machine Intelligence, Natural Language Processing, Product 카테고리에 분류됐으며, Gemini Enterprise Agent Platform의 agentic RAG 프레임워크를 다룹니다.1
핵심은 RAG를 단순한 검색-생성 파이프라인이 아니라, 에이전트가 필요한 근거를 찾고 부족하면 다시 검색하는 판단 루프로 확장한다는 점입니다.
Agentic RAG이 바꾸는 것
일반적인 RAG는 보통 다음 순서로 동작합니다. 질문을 받고, 관련 문서를 검색하고, 검색된 컨텍스트를 바탕으로 답변을 생성합니다.2 이 방식은 단일 문서나 비교적 단순한 FAQ에는 효과적일 수 있습니다.
문제는 검색 결과가 불완전할 때입니다. 필요한 근거가 빠져 있어도 시스템은 답변을 생성할 수 있고, 그 답변은 그럴듯하지만 틀릴 수 있습니다.
Agentic RAG은 이 지점에 판단 단계를 추가합니다. 질문을 쪼개고, 어떤 데이터 소스를 확인할지 선택하고, 검색어를 바꾸고, 필요한 경우 다시 검색합니다. 따라서 초점은 “관련 문서를 찾았는가”에서 “답변할 만큼 충분한 근거를 확보했는가”로 이동합니다.
이 차이는 멀티홉·다중 소스 질의에서 특히 중요합니다. 예를 들어 프로젝트 문서에는 변경 이력이 있고, 실제 정책은 별도 데이터베이스에 있으며, 고객 영향도는 지원 티켓에 흩어져 있을 수 있습니다. 단순 RAG는 첫 검색 결과만으로 답을 만들 수 있지만, Agentic RAG은 추가 근거가 필요하다고 판단하고 검색을 이어갈 수 있습니다.
Sufficient Context Agent가 중요한 이유
Google Research가 설명한 프레임워크에서 핵심 구성요소 중 하나는 Sufficient Context Agent입니다. 이름 그대로, 현재 검색된 문맥이 답변을 생성하기에 충분한지 평가하는 역할을 합니다.
중요한 점은 이 에이전트의 목적이 무조건 더 많이 검색하는 것이 아니라는 점입니다. 목표는 부족한 근거로 성급하게 답하는 일을 줄이는 것입니다. 멀티홉 질문이나 여러 데이터 소스를 오가는 질문에서는 “검색 결과가 있음”과 “답변 근거가 충분함”이 다를 수 있습니다.
일부 설명에 따르면 이 프레임워크는 표준 RAG 대비 사실성 정확도를 최대 34% 높였다고 소개됐습니다.3 수치 자체보다 더 중요한 메시지는 명확합니다. 기업용 AI에서 품질은 단순한 응답 속도나 유창성만으로 판단할 수 없고, 근거 충분성과 사실성 검증이 핵심 기준이 된다는 것입니다.
왜 플랫폼 관점에서 봐야 하나
Agentic RAG은 검색 기법 하나로만 보기 어렵습니다. 실제 기업 환경에서는 데이터 연결, 권한, 운영, 확장, 거버넌스가 함께 필요하기 때문입니다.
Gemini Enterprise Agent Platform은 기업 데이터에 기반한 엔터프라이즈급 에이전트를 구축, 확장, 거버넌스, 최적화하기 위한 플랫폼으로 설명됩니다.4 또한 글로벌 규모의 에이전트 시스템을 위한 풀스택 기반과 개발자 선택지를 제공한다고 소개됩니다.4
여기에 Agent Development Kit은 복잡한 AI 에이전트 구축과 배포를 표준 소프트웨어 개발처럼 만들기 위한 모듈형·모델 비종속 프레임워크로 설명됩니다.4 즉 Agentic RAG은 연구 아이디어에 머무르기보다, 실제 개발과 운영 흐름에 연결될 수 있는 구조로 제시되고 있습니다.
적용할 때 봐야 할 기준
Agentic RAG이 항상 필요한 것은 아닙니다. 단일 문서 기반 FAQ, 정형화된 내부 안내, 근거가 명확한 간단한 검색형 질의라면 일반 RAG로도 충분할 수 있습니다.
반대로 다음 조건이 많다면 Agentic RAG을 검토할 이유가 커집니다.
답변에 여러 문서나 시스템의 정보가 필요하다
질문을 하위 질문으로 나눠야 답할 수 있다
고객 지원, 재무, 법무처럼 오답 비용이 크다
답변보다 근거의 충분성과 추적 가능성이 중요하다
한 번의 검색 결과만으로는 신뢰하기 어려운 업무가 많다
결국 Google Research의 Agentic RAG가 던지는 메시지는 단순합니다. 기업용 AI의 다음 경쟁력은 “답을 생성하는 능력”만이 아니라 “충분히 확인한 뒤 답하는 능력”에 있습니다. 앞으로 RAG를 평가할 때도 질문은 바뀌어야 합니다.
“AI가 답했는가?”가 아니라, “AI가 답하기 전에 충분한 근거를 확보했는가?”를 물어야 합니다.
1The latest research from Google
3Google's Agentic RAG: +34% Accuracy Over Classic RAG
4Gemini Enterprise Agent Platform | Google Cloud Documentation
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.