AI 환각 인용은 실제 논문처럼 보이지만 존재하지 않는 참고문헌을 말합니다. 제목, 저자, 학술지명, DOI 형식까지 그럴듯하게 갖추고 있어 단순 오탈자보다 위험합니다. 겉보기에는 학술적 근거처럼 보이지만, 실제로는 검증 가능한 지식의 연결고리를 끊어버리기 때문입니다.
왜 인용은 AI 환각을 드러내는 좋은 단서인가
대규모 언어모델(LLM)은 그럴듯하지만 사실이 아닌 정보를 생성할 수 있습니다. 문제는 일반 문장 속 오류는 판단하기 어렵지만, 인용은 상대적으로 확인이 가능하다는 점입니다. 논문 제목이나 DOI, 저자명은 PubMed, Crossref, OpenAlex, Google Scholar 같은 데이터베이스에서 실제 존재 여부를 대조할 수 있습니다.
이 특성 때문에 인용은 AI 환각을 감사하는 유용한 대상이 됩니다. 최근 한 대규모 연구는 arXiv, bioRxiv, SSRN, PubMed Central에 올라온 논문과 프리프린트 250만 편을 대상으로 참고문헌 1억1,100만 건을 점검했습니다.1 연구진은 2025년에만 환각 인용이 보수적으로 14만6,932건 있었을 것으로 추정했습니다.1
즉, AI 환각 인용은 드문 해프닝이 아니라 학술 출판 생태계 안으로 이미 상당한 규모로 들어온 문제입니다.
더 큰 문제는 ‘분산된 오류’라는 점이다
환각 인용은 일부 엉터리 논문에만 몰려 있지 않았습니다. 많은 논문에 조금씩 섞여 들어가는 방식으로 나타났습니다.1 이 점이 문제를 더 어렵게 만듭니다. 논문 전체는 정상적으로 보이고, 본문 논리도 그럴듯한데, 참고문헌 한두 개만 존재하지 않을 수 있기 때문입니다.
또한 환각 인용은 AI 활용이 빠른 분야에서 더 두드러졌고, AI 보조 작성의 언어적 특징이 있는 원고에서도 더 많이 관찰됐습니다.1 이는 모든 사례가 의도적 조작이라는 뜻은 아닙니다. 오히려 AI가 생성한 참고문헌을 저자나 편집 과정에서 충분히 확인하지 않았을 가능성을 보여줍니다.
따라서 핵심은 “AI를 썼는가”가 아니라 “AI가 제시한 근거를 검증했는가”입니다.
논문 안의 오류가 논문 밖으로 나갈 때
생의학 분야에서는 이 문제가 더 민감합니다. 한 감사에서는 PubMed Central 공개 아카이브의 2023년 1월부터 2026년 2월까지 발행 논문 247만 편을 분석했고, 참고문헌 9,710만 건 중 4,046건을 조작된 참고문헌으로 분류했습니다.2 이 기준은 해당 제목이 PubMed, Crossref, OpenAlex, Google Scholar 어디에서도 발견되지 않는 경우였습니다.2
비율도 빠르게 늘었습니다. 조작된 참고문헌은 2023년 논문 1만 편당 약 4건 수준에서 2026년 첫 7주 동안 1만 편당 56.9건으로 증가했습니다.2
의학 논문에서 존재하지 않는 인용은 단순한 서지 오류에 그치지 않습니다. 임상 가이드라인, 문헌고찰, 후속 연구의 근거망에 들어갈 수 있습니다. 의사와 연구자는 축적된 문헌을 바탕으로 판단하기 때문에, 가짜 인용이 섞이면 오류는 논문 안에 머물지 않습니다.
실무적으로 무엇을 해야 하나
해결의 출발점은 명확합니다. AI가 만든 문장보다 참고문헌을 더 먼저 의심해야 합니다.
저자는 제출 전 다음 항목을 직접 대조해야 합니다.
논문 제목이 실제 데이터베이스에 존재하는가
DOI가 실제 논문과 연결되는가
저자명, 학술지명, 권호, 페이지가 일치하는가
본문에서 주장한 내용이 실제 인용 논문에 담겨 있는가
학술지와 심사자는 참고문헌 자동 검증을 선택 사항이 아니라 기본 절차로 다뤄야 합니다. 특히 AI 사용 가능성이 높은 원고에서는 문장보다 근거 목록을 먼저 확인하는 방식이 필요합니다.
AI는 글쓰기 속도를 높일 수 있습니다. 하지만 근거의 진위를 대신 책임지지는 않습니다. 앞으로의 연구 윤리는 “AI를 사용했는가”보다 “AI가 만든 근거를 검증했는가”에 더 가까워질 것입니다.
1LLM hallucinations in the wild: Large-scale evidence from non-existent citations
2AI is fabricating citations in biomedical studies, researchers find
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.