기업용 AI 에이전트를 도입할 때 흔히 먼저 묻는 질문은 “어떤 모델을 쓸 것인가”입니다. 하지만 실제 업무 자동화에서는 그보다 앞선 문제가 있습니다. 사내 문서, 스캔본, 표, 계약서, 보고서처럼 기업 지식이 담긴 자료를 AI가 제대로 읽고 다룰 수 있느냐입니다.
LlamaIndex가 강조하는 Document Intelligence는 이 지점을 겨냥합니다. 단순히 OCR로 문자를 추출하는 것을 넘어, 문서의 구조와 의미를 보존해 AI 에이전트가 활용할 수 있는 형태로 바꾸는 접근입니다.
왜 검색보다 문서 처리가 먼저인가
RAG나 AI 에이전트는 결국 문서에서 근거를 찾고, 필요한 정보를 조합해 답합니다. 그런데 입력 문서가 이미 깨져 있다면 이후 단계가 아무리 정교해도 한계가 생깁니다. 표가 흐트러지고, 섹션 구분이 사라지고, 문서 유형이 섞이면 검색 품질과 답변 신뢰도 모두 흔들립니다.
이런 맥락에서 LlamaIndex의 LlamaParse MCP 개편은 의미가 있습니다. LlamaParse MCP는 기존 저장·검색 중심에서 Parse, Classify, Split 같은 문서 처리 기능 중심으로 방향을 바꿨습니다.1
핵심은 문서를 “나중에 검색할 텍스트 덩어리”로만 보지 않는다는 점입니다. LlamaParse 플랫폼의 주요 서비스인 Parse, Classify, Extract, Split은 파일을 직접 대상으로 동작합니다.1 즉 문서를 먼저 읽고, 분류하고, 나누고, 필요한 정보를 추출하는 계층을 에이전트 워크플로의 앞단에 두려는 설계입니다.
LlamaParse MCP가 하는 역할
MCP는 에이전트와 도구를 연결하는 인터페이스입니다. LlamaParse MCP는 이 연결부를 통해 문서 처리 기능을 에이전트가 직접 사용할 수 있게 합니다.
LlamaParse MCP 서버는 MCP 호환 클라이언트가 연결할 수 있는 https://mcp.llamaindex.ai/mcp 엔드포인트를 제공합니다. 사용자는 LlamaCloud 계정으로 로그인해 사용할 수 있습니다.1
연동 대상도 개발자와 에이전트 작업 환경에 맞춰져 있습니다. Claude Desktop, Claude Code, Cursor, GitHub Copilot 같은 MCP 클라이언트와 연결할 수 있습니다.1 문서 인텔리전스를 별도 콘솔에 가둬두기보다, 사용자가 실제로 코드를 작성하고 에이전트를 실행하는 환경 안으로 가져오는 방식입니다.
기업 환경에서 중요한 인증과 운영 방식
문서 처리 도구가 기업 업무에 들어가려면 기능만큼 운영 방식도 중요합니다. 특히 인증, 토큰 관리, API 키 취급은 보안과 유지보수에 직접 연결됩니다.
LlamaParse MCP의 OAuth 인증은 WorkOS OAuth를 사용하도록 설계됐습니다. 각 요청은 액세스 토큰을 포함해야 하며, 서버는 이를 검증합니다. 검증된 액세스 토큰은 LlamaParse Platform API 요청의 bearer token으로 전달됩니다.1
이 구조의 실무적 의미는 별도 API 키를 복사하거나 저장하고 교체하는 부담을 줄이는 데 있습니다. LlamaParse MCP는 플랫폼 인증 체계를 공유하도록 설계돼, 에이전트 도구 연결에서 생길 수 있는 운영 리스크를 낮추는 방향을 취합니다.1
Document Intelligence를 평가할 때 볼 것
Document Intelligence를 판단할 때 OCR 정확도만 보면 부족합니다. 기업 문서는 단순한 본문 텍스트보다 훨씬 복잡합니다. 표, 차트, 이미지, 각주, 다단 구성, 스캔 품질, 양식 구조가 함께 얽혀 있습니다.
따라서 중요한 기준은 다음과 같습니다.
문서의 레이아웃과 구조를 얼마나 보존하는가
표와 양식 데이터를 얼마나 안정적으로 읽는가
문서 유형을 분류하고 필요한 단위로 나눌 수 있는가
추출된 정보의 출처를 추적할 수 있는가
에이전트나 개발 도구 안에서 자연스럽게 호출할 수 있는가
LlamaParse는 PDF, 스캔, 복잡한 양식을 Markdown, JSON, HTML 같은 구조화된 출력으로 바꾸는 것을 내세웁니다.2 또한 인용과 출처 메타데이터를 통해 추출값을 원문 위치로 추적할 수 있게 하는 방향을 강조합니다.2
기업 업무에서는 “답이 그럴듯한가”보다 “어느 문서의 어떤 근거에서 나온 답인가”가 더 중요합니다. 문서 처리 계층이 근거 추적을 지원해야 AI 에이전트의 결과를 검토하고, 감사하고, 업무에 적용할 수 있습니다.
결론: 에이전트의 성능은 문서 이해에서 시작된다
LlamaIndex Document Intelligence의 핵심은 AI 에이전트에게 문서를 읽는 능력을 제공하는 것입니다. 문서를 제대로 파싱하고, 분류하고, 나누고, 필요한 정보를 추출하며, 근거를 남기는 과정이 있어야 이후 자동화도 안전해집니다.
기업이 AI 에이전트를 검토한다면 모델 성능만 비교해서는 부족합니다. 먼저 사내 문서가 어떤 형태로 존재하는지, 그 문서를 AI가 사용할 수 있는 구조로 바꿀 수 있는지, 그리고 그 과정이 보안과 운영 기준에 맞는지 점검해야 합니다.
결국 좋은 에이전트는 좋은 문서 이해 위에서 작동합니다. LlamaIndex의 Document Intelligence 접근은 기업용 AI에서 “검색 이전의 문서 처리 계층”이 왜 중요한지를 보여줍니다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.