AI 연구 자동화의 다음 과제는 ‘성능’이 아니라 ‘증명 가능성’이다: Science One Framework가 제안하는 패러다임

왜 ‘쓸 수 있는 논문’보다 ‘믿을 수 있는 논문’이 어려운 문제인가

자율 연구 시스템이 지금보다 훨씬 더 많은 논문을 양산할 것이라는 전망은 더 이상 놀랍지 않다. 정말 까다로운 지점은 따로 있다. 인간 과학자가 그 논문들을 일일이 검증할 수 있는가, 그리고 검증 없이 받아들일 경우 우리가 쌓게 될 지식 기반의 신뢰도는 어떻게 되는가 하는 문제다.

생성형 모델이 만들어내는 텍스트는 점점 더 설득력 있게 읽힌다. 그런데 설득력이 진실성과 혼동되기 시작하면 위험한 상황이 펼쳐진다. 방법론 섹션에 적힌 알고리즘이 실제 코드와 일치하지 않거나, 인용된 논문이 존재하지 않는데도 문맥상 전혀 어색하지 않은 사례들이 보고되면서 ‘검증의 부재’가 임계점을 넘어서고 있다.

2026년 7월 30일 구글 리서치가 발표한 Science One Framework는 이 지점을 정면으로 파고든다. 루이 멍(Rui Meng)과 토마스 피스터(Tomas Pfister)가 설계한 이 실험적 프로토타입은 ‘AI가 논문을 쓸 수 있느냐’라는 질문을 ‘AI가 검증 가능한 논문만을 쓸 수 있느냐’로 바꿔 버렸다.

기존 시스템의 불편한 진실: 허위 참고문헌과 방법론 불일치

이 주제가 기술 업계에서 갑자기 중요해진 이유는 단지 이론적 우려 때문이 아니다. 이미 다양한 자율 연구 파이프라인이 생성한 결과물을 들여다보면 무결성 문제가 광범위하게 퍼져 있다는 실증 데이터가 축적되고 있다.

가장 충격적인 지표 중 하나는 허위 참고문헌 비율이다. 기존 자율 연구 시스템들이 최대 21%에 달하는 존재하지 않는 참고문헌을 생성한 사례가 확인되었다. 독자 입장에서는 전혀 의심할 수 없는 자연스러운 서지 정보이지만, 실제로는 데이터베이스 어디에도 존재하지 않는 유령 논문들이다.

방법론과 코드의 불일치는 더 은밀하다. 논문에는 ‘하이브리드 신경-기호 솔버’라는 정교한 알고리즘이 묘사되어 있는데, 깃허브 저장소를 클론해 열어 보면 단순한 휴리스틱 규칙 몇 줄에 불과한 경우가 적잖다. 글로만 보면 완벽하게 정합적이기 때문에 동료 심사자가 발견하기도, 자동화된 린터가 잡아내기도 어렵다. 점수 재현율이 42%에 그치고 방법론-코드 일치율이 20~80%의 넓은 스펙트럼을 보인다는 사실은 이 문제가 예외가 아니라 패턴이라는 점을 말해 준다.

Chain-of-Evidence: 증거가 사슬로 연결되지 않으면 문장도 없다

Science One Framework의 접근법은 사후 검증을 강화하는 대신, 애초에 검증되지 않은 문장을 산출물로 인정하지 않도록 시스템을 설계하는 것이다. 핵심 개념은 Chain-of-Evidence(CoE) 다.

이 프레임워크는 연구 산출물의 모든 주장이 기록된 증거 체인을 가져야 하며, 그 체인이 완전하고 정확해야 한다는 요구 조건에서 출발한다. 여기서 말하는 증거는 관념적 근거가 아니라 동료 심사 논문, 실험 로그의 한 줄, 실제 실행된 코드, 결과 테이블처럼 재현 가능하고 추적 가능한 구체적인 객체다. 증거 체인이 없는 문장은 최종 원고에 포함될 수 없다. 마지막에 고치는 게 아니라, 설계 단계에서부터 입증되지 않은 서술이 생존할 공간을 없애 버리는 구조다.

Problem Investigator라는 모듈이 방대한 문헌 수집을 담당한다. Semantic Scholar API를 통해 주제당 최대 100편의 전문 PDF를 실제로 가져온 뒤 인용 그래프를 구축한다. 중요한 설계 결정은 여기에 있다. 인용은 반드시 실제로 가져와서 파싱한 문서에 대해서만 이루어지기 때문에 존재하지 않는 논문을 참고문헌 목록에 추가하는 행위가 구조적으로 불가능해진다.

실험 수행을 담당하는 Discovery Engine은 여러 아이디어를 병렬로 탐색하면서 모든 로그를 읽기 전용 기록으로 남긴다. 실험 과정에서 생성된 모든 수치와 출력이 불변의 흔적으로 보존되기 때문에 사후에 숫자를 수정하는 시나리오 자체가 차단된다. 이후 Paper Writer는 증거 태그가 붙은 사실 주장 단위로 초안을 표현하고, Claim Verifier가 각 주장과 선언된 출처의 정합성을 확인한 뒤에야 최종 텍스트가 생성된다.

CoE Audit가 보여준 격차와 성능의 공존 가능성

Science One Framework는 이 원칙을 자체 시스템에만 적용하는 데 그치지 않고, 모든 자율 연구 시스템에 적용할 수 있는 검증 프로토콜로 CoE Audit를 함께 제안했다. CoE Audit는 생성된 논문의 점수 재현, 규격 위반 여부, 참고문헌 진위, 방법론-코드 정렬이라는 네 가지 축의 무결성 검사를 수행한다.

이 감사 체계로 본 평가 결과는 상징적인 지점을 만들어냈다. Science One Framework가 허위 참고문헌 0건(0/337)을 기록한 반면, 비교 대상 시스템들은 최대 21%의 허위 참고문헌을 생성했다. 점수 재현은 12/12로 완벽했고, 방법론-코드 일치율 역시 14/15로 기존 시스템들이 보였던 20~80%의 편차와 뚜렷이 구분된다.

검증 가능성을 극도로 높였음에도 실질적인 성능이 희생되지 않았다는 사실을 주목할 필요가 있다. Science One Framework는 MLE-Bench의 3D Object Detection 과제에서 금메달을 획득했고, Parameter-Golf 경연에서는 2026년 4월 27일 기준 최고 점수를 기록했다. ‘신뢰성과 성능 사이의 트레이드오프’라는 가정 자체가 반드시 참은 아닐 수 있다는 반례를 제시한 셈이다.

프로토타입 이후의 질문들

구글이 이 시스템을 제품이나 API로 출시할 계획이 없다고 밝힌 점은 해석의 여지를 남긴다. 실험에서 검증된 설계 원칙이 제품 단위의 연구 생태계로 바로 전환될 수 있을지, 전환했을 때 컴퓨테이션 비용이 감내 가능한 수준일지는 아직 열린 질문이다.

그럼에도 불구하고 CoE Audit 프로토콜은 지금 당장 활용할 수 있는 도구다. 연구자들이든, 컨퍼런스 프로그램 위원회든, 오픈소스 AI 연구 툴을 평가하는 조직이든 ‘이 파이프라인이 생성하는 논문은 검증할 수 있는가’라는 질문을 처음 던질 수 있는 기준을 확보한 셈이다. 진짜 위험은 눈에 띄게 잘못된 결과가 아니라, 모든 형식을 완벽하게 갖췄기에 아무도 의심하지 않는 허구라는 점을 다시 한번 상기시키는 프로토타입이기도 하다.

지금부터 지켜봐야 할 것은 두 방향이다. 하나는 Chain-of-Evidence 개념을 경량화·모듈화해 기존 연구 파이프라인에 부분적으로 통합하려는 후속 시도들이다. 다른 하나는 Science One Framework가 학계의 ‘재현성 위기’ 논의와 만나면서 발생할 방법론적 충돌이다. 증거 체인을 강제하는 시스템이 탐색적이거나 질적 성격이 강한 연구 관행과 어떻게 공존할지, 그 경계 설정이 이 분야의 다음 화두가 될 것으로 보인다.