Baidu의 자기 추론을 통한 검색 강화 언어 모델 개선
- 논문 제목: 자기 추론으로 검색 증강 언어 모델 개선하기
- RALM(Retrieval-Augmented Language Model)은 지식 집약적인 과제에서 외부 지식을 도입하여 사실적 환각을 줄이는 데 주목할 만한 성과를 보임.
- RALM 구현 과정에서 신뢰성과 추적 가능성에 대한 문제 존재.
- 관련 없는 문서 검색은 도움되지 않는 응답 생성 또는 LLM 성능 저하를 초래할 수 있음.
- 생성된 출력물에 적절한 인용이 부족하면 모델의 신뢰성을 확인하기 어려워짐.
- RALM의 신뢰성과 추적 가능성을 개선하기 위해 자기 추론 프레임워크 제안.
- LLM의 추론 경로를 활용하여 신뢰성을 확보하는 것이 핵심 아이디어.
- 자기 추론 경로는 세 가지 과정으로 구성됨: 관련성 인식 과정, 증거 인식 선택 과정, 경로 분석 과정.
- 네 개의 공공 데이터셋(두 개의 단기 QA 데이터셋, 하나의 장기 QA 데이터셋, 하나의 사실 확인 데이터셋)에서 프레임워크 평가.
- 제안된 방법이 기존 최첨단 모델을 능가하며 GPT-4와 유사한 성능을 보이지만, 단지 2,000개의 훈련 샘플만 사용함.
4arxiv.org링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.