AI 과학자의 경쟁력은 더 많은 논문을 읽거나 그럴듯한 가설을 많이 내는 데서 끝나지 않는다. 더 중요한 질문은 이것이다. AI가 기존 과학 언어 안에서만 답을 찾는가, 아니면 필요할 때 그 언어 자체를 고칠 수 있는가.
Fiona Y. Wang과 Markus J. Buehler의 논문 “Self-Revising Discovery Systems for Science”는 이 질문을 범주론 기반 프레임워크로 다룬다.1 핵심은 과학적 발견을 “새 답”이 아니라 “검증된 표현 체계의 수정”으로 정의하는 것이다.
발견은 답 생성이 아니라 체계 전이다
이 프레임워크에서 과학적 발견은 단순한 생성 결과가 아니다. 증거, 산출물, 연산, 검증자가 어떤 타입으로 표현되는지 자체가 바뀌는 사건이다.1
고정된 과학 체계는 스키마 범주 S_b로 표현된다. 현재 시스템 상태는 코프리시프 I_t: S_b → Set로 나타낸다.1 쉽게 말해, 어떤 종류의 과학 산출물이 존재하고 그 안에 데이터, 모델, 계산 결과가 어떻게 채워져 있는지를 구조적으로 기록하는 방식이다.
이 지점에서 retrieval, search, discovery가 구분된다. 검색과 탐색은 기존 체계 안에서 더 적절한 항목이나 조합을 찾는 일에 가깝다. 반면 발견은 검증된 체계 전이 u: S_b → S_b'가 일어나는 경우다.1 새 변수, 새 연산, 새 검증자가 들어와 기존 표현 체계가 바뀌어야 한다.
따라서 이 논문의 중요한 메시지는 “새로워 보이는 결과”와 “실제로 체계를 바꾼 발견”을 구분해야 한다는 것이다.
왜 출처와 운반이 중요한가
AI 연구 자동화의 약점은 결과보다 과정에서 드러난다. 어떤 증거를 사용했는지, 어떤 계산을 거쳤는지, 어떤 대안이 폐기됐는지 남지 않으면 과학적 산출물이라기보다 생성물에 가까워진다.
이 프레임워크는 출처 추적을 원소 범주 ∫_{S_b} I_t로 모델링한다.1 산출물은 단독으로 존재하지 않고, 자신이 속한 타입과 생성 계보를 함께 가진다. 고정 체계 안의 연산도 출처 보존 정제가 지정되고 유지될 때만 엔도펑터적 업데이트로 볼 수 있다.1
체계가 바뀔 때도 기존 결과를 그냥 버리지 않는다. 전이 u: S_b → S_b'가 일어나면 기존 산출물은 좌 Kan 확장 Lan_u I_t를 통해 새 체계로 보존·운반된다.1 이후 전이 후 상태와 운반된 산출물을 비교해, 단순한 재표현만으로 설명되지 않는 잔여 내용을 식별한다.
이 잔여분이 실질적으로 “무엇이 새로 생겼는가”를 판단하는 기준이 된다. 주관적으로 참신해 보이는지가 아니라, 기존 체계에서 펑터적으로 운반될 수 없었던 내용이 무엇인지 묻는 것이다.
AI 과학 파이프라인에 주는 기준
이 관점은 AI 과학자를 평가하는 기준을 바꾼다. 이제 질문은 “새로운 답을 냈는가”가 아니라 다음에 가까워진다.
어떤 체계를 수정했는가
그 전이는 검증됐는가
기존 증거와 산출물은 보존됐는가
단순 운반을 넘어서는 잔여 내용은 무엇인가
폐기된 대안과 반례는 기록됐는가
Builder/Breaker 사례는 이를 단백질 역학 세계 모델에 적용한다. Builder가 모델 수정을 제안하고, Breaker가 반례를 찾으며, Minimum Description Length 게이트가 수정안을 받아들일지 판단한다.1 여기서 중요한 것은 모델이 스스로 바뀐다는 사실만이 아니라, 그 변화가 검증 기준을 통과해야 한다는 점이다.
CategoryScienceClaw 사례도 같은 방향을 보여준다. 기술, 산출물, 미해결 요구, 게이트, 스트레스 테스트를 타입화된 지식-계산 그래프로 묶어 워크플로를 구성한다.1 성공한 결과뿐 아니라 거절된 대안과 검증 과정까지 구조 안에 남기는 것이 핵심이다.
과학용 AI를 설계할 때 먼저 물어야 할 것
자기수정형 발견 시스템의 핵심은 단순한 자율성이 아니다. 감사 가능한 체계 변화다.
과학용 AI를 만든다면 프롬프트나 에이전트 개수보다 먼저 설계해야 할 것이 있다. 산출물의 타입, 출처 기록, 검증자, 반례 처리, 폐기된 가설의 보존 방식이다. 그래야 AI가 낸 결과를 “그럴듯한 답”이 아니라 “검증 가능한 발견 과정”으로 다룰 수 있다.
결국 이 프레임워크가 주는 실용적 교훈은 분명하다. AI가 과학자가 되려면 더 많이 생성하는 것만으로는 부족하다. 자신이 사용하는 과학적 표현 체계를 언제, 왜, 어떻게 바꾸었는지 설명할 수 있어야 한다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.