출처가 있는 답변 만들기

신뢰는 답변이 아니라 확인에서 나온다

문서 기반 AI에서 가장 위험한 답변은 틀린 답변보다 그럴듯한 답변입니다. 사용자는 AI가 내부 문서, 노트, 책을 참고했다고 생각합니다. 그런데 실제로는 검색 결과에 없는 내용을 모델이 추측해 말할 수 있습니다. 이것을 환각이라고 부릅니다.

출처가 없으면 사용자는 답변을 검증할 수 없습니다. "이 정책은 2024년부터 적용됩니다"라는 문장이 있을 때, 어떤 문서의 어느 부분을 근거로 한 것인지 알 수 없다면 업무에 쓰기 어렵습니다. 회사 내부 지식베이스라면 책임 소재도 모호해집니다. 답변이 문서에 있었던 내용인지, 모델이 만든 말인지 구분할 수 없기 때문입니다.

그래서 RAG의 목표는 단순히 좋은 답을 만드는 것이 아닙니다. 사용자가 원문을 확인할 수 있는 답을 만드는 것입니다.

인용 가능한 답변 구조

출처를 붙이는 방식은 크게 두 가지입니다.

첫 번째는 문장별 인용입니다. 답변의 각 문장 끝에 사용한 문서 조각을 연결합니다.

비밀번호는 90일마다 변경해야 합니다. [문서 A] 관리자 계정은 2단계 인증을 사용해야 합니다. [문서 B]

이 방식은 정확합니다. 어떤 문장이 어떤 근거에서 나왔는지 확인하기 쉽습니다. 대신 답변이 조금 딱딱해 보일 수 있습니다.

두 번째는 문단 단위 인용입니다. 한 문단이 같은 근거 묶음에서 나온 경우 문단 끝에 출처를 붙입니다.

보안 정책은 계정 유형에 따라 다르게 적용됩니다. 일반 사용자는 비밀번호 주기 변경을 따르고, 관리자 계정은 추가 인증을 설정해야 합니다. [문서 A, 문서 B]

이 방식은 읽기 편합니다. 일반적인 Q&A UI에서는 문단 단위 인용이 자연스럽습니다. 다만 중요한 법률, 계약, 규정 문서라면 문장별 인용이 더 안전합니다.

출처에 담아야 할 정보

출처는 "문서 3"처럼 표시하면 부족합니다. 사용자가 바로 원문을 확인할 수 있어야 합니다. 최소한 다음 정보를 함께 저장하고 보여주는 것이 좋습니다.

• 문서 제목

• 섹션 또는 챕터 이름

• 페이지 번호 또는 위치 정보

• URL 또는 원문 링크

• 작성일 또는 수정일

예를 들어 책 기반 RAG라면 "책 제목 > 문서를 잘게 나누는 Chunking 전략 > 고정 길이 청킹 > 132쪽"처럼 보여줄 수 있습니다. 블로그나 노트 기반이라면 "글 제목 > 소제목 > 작성일 > 원문 링크"가 유용합니다.

중요한 점은 이 정보가 답변 생성 단계에서 갑자기 만들어지면 안 된다는 것입니다. 청킹할 때부터 메타데이터로 함께 저장해야 합니다. 그래야 검색된 청크와 출처 표시가 정확히 연결됩니다.

근거 없는 답변을 막는 규칙

RAG 시스템은 모델에게 "검색 결과를 참고하라"고 말하는 것만으로는 부족합니다. 더 명확한 규칙이 필요합니다.

프롬프트에는 다음과 같은 제약을 넣을 수 있습니다.

• 제공된 문서 조각에 있는 내용만 답변한다.

• 문서에 없는 내용은 추측하지 않는다.

• 근거가 부족하면 "문서에서 확인할 수 없습니다"라고 말한다.

• 답변에 사용한 문서 조각의 출처를 함께 표시한다.

• 서로 다른 문서가 충돌하면 충돌 사실을 알리고 단정하지 않는다.

이 규칙은 답변 품질을 낮추는 것이 아니라 오히려 신뢰를 높입니다. 사용자는 AI가 모르는 것을 모른다고 말할 때 더 안심합니다.

실습: 출처 표시형 Q&A 흐름 만들기

출처가 있는 Q&A는 다음 흐름으로 설계할 수 있습니다.

1. 사용자가 질문한다.

2. 검색 시스템이 관련 청크를 찾는다.

3. 각 청크의 본문과 메타데이터를 함께 모델에 전달한다.

4. 모델은 청크 안의 내용만 사용해 답변한다.

5. 답변 문단마다 사용한 청크 ID를 연결한다.

6. UI는 답변 아래에 출처 카드를 보여준다.

7. 사용자가 출처 카드를 누르면 원문 위치가 펼쳐진다.

출처 카드는 단순해야 합니다.

출처 1
문서: 사내 보안 정책
섹션: 계정 관리
수정일: 2025-03-12
원문 보기

원문을 펼쳤을 때는 검색된 청크 전체를 보여주되, 답변에 사용된 핵심 문장을 강조하면 좋습니다. 사용자는 AI의 말을 믿는 것이 아니라, AI가 찾아온 근거를 확인하고 판단할 수 있습니다.

좋은 RAG 답변의 기준

좋은 RAG 답변은 세 가지를 만족해야 합니다.

첫째, 질문에 직접 답해야 합니다. 둘째, 문서에 근거해야 합니다. 셋째, 사용자가 그 근거를 확인할 수 있어야 합니다.

출처 표시는 장식이 아닙니다. RAG 시스템의 신뢰 계층입니다. 검색, 재랭킹, 프롬프트가 아무리 좋아도 출처가 없으면 사용자는 답변을 업무와 학습에 쓰기 어렵습니다. 문서 기반 AI의 신뢰는 그럴듯한 말이 아니라 확인 가능한 연결에서 나옵니다.