AI 학습의 중요한 질문은 이제 “모델을 얼마나 더 키울 것인가”만이 아닙니다. “모델이 세계를 어떻게 배우고, 그 이해를 어떻게 고칠 것인가”가 더 핵심적인 질문으로 떠오르고 있습니다. Microsoft AI VP 난도 데 프레이타스가 공유한 글도 이 지점에 서 있습니다. 복잡한 다단계 학습 파이프라인보다, 지속적 상호작용과 인과성을 중심에 둔 에이전트 학습을 보자는 제안입니다.1
Continual Interactive Causal Agent의 핵심은 정답 생성이 아니라 메커니즘 학습입니다. 에이전트가 환경에 행동하고, 결과를 관찰하고, “무엇을 바꿨기 때문에 무엇이 달라졌는가”를 계속 갱신하게 만드는 접근입니다.
정답을 맞히는 모델에서 원인을 검증하는 에이전트로
일반적인 질의응답 모델은 주어진 입력에 대해 그럴듯한 출력을 내는 데 초점이 맞춰져 있습니다. 반면 Continual Interactive Causal Agent는 한 번 답하고 끝나지 않습니다. 가설을 세우고, 개입하고, 관찰한 결과를 바탕으로 자신의 이해를 수정합니다.
여기서 중요한 개념이 인과성입니다. 상관관계는 “A와 B가 함께 움직인다”를 말하지만, 인과성은 “A를 바꾸면 B가 어떻게 달라지는가”를 묻습니다. 이 차이는 실제 적용에서 결정적입니다. 과학 실험, 제품 개선, 로봇 제어, 업무 자동화처럼 행동이 결과를 바꾸는 환경에서는 관찰만으로 충분하지 않기 때문입니다.
따라서 이 접근의 가치는 단순히 더 똑똑한 답변을 만드는 데 있지 않습니다. 에이전트가 자신의 판단 근거를 실험으로 확인하고, 틀렸을 때 원인 모델을 고치는 방향으로 학습하게 만든다는 데 있습니다.
CausaLab이 보여주는 새로운 평가 방식
이런 능력을 평가하려면 기존 벤치마크와 다른 환경이 필요합니다. CausaLab은 LLM 에이전트의 상호작용적 인과 발견 능력을 평가하기 위해 설계된 확장형 환경입니다.2
CausaLab의 각 에피소드는 합성 실험실에서 진행됩니다. 에이전트는 먼저 사전 측정 기록을 받고, 조작용 크리스털에 개입합니다. 이후 같은 메커니즘을 따르는 보류된 반응기 크리스털의 공명 주파수를 예측해야 합니다.2
이 과제의 핵심은 단순 예측이 아닙니다. 숨겨진 데이터 생성 과정은 무작위로 샘플링된 구조적 인과 모델이며, 성공하려면 인과 그래프와 구조 방정식을 모두 복원해야 합니다.2 즉 CausaLab은 “답이 맞았는가”뿐 아니라 “그 답이 복원된 인과 메커니즘에 근거했는가”도 함께 봅니다.2
이 설계는 평가의 실용적 한계를 줄입니다. 구조적 인과 모델을 에피소드마다 새로 샘플링하기 때문에, 공개된 인과 코퍼스를 암기해 문제를 맞히는 방식에 의존하기 어렵습니다.2 에이전트는 기억한 지식보다, 현재 환경에서 증거를 모으고 실험해 메커니즘을 찾아야 합니다.
실제 시스템을 설계할 때 봐야 할 것
Continual Interactive Causal Agent라는 관점은 연구 벤치마크에만 머물지 않습니다. 에이전트 시스템을 만들거나 평가할 때 무엇을 기록하고, 무엇을 성능으로 볼지에 대한 기준을 제공합니다.
첫째, 에이전트에게는 단순 질의응답이 아니라 개입 가능한 환경이 필요합니다. 도구 호출, 시뮬레이션, 실험, 사용자 피드백처럼 행동의 결과를 관찰할 수 있는 구조가 있어야 합니다. 그래야 에이전트가 답을 생성하는 데 그치지 않고 가설을 검증할 수 있습니다.
둘째, 최종 결과만 기록해서는 부족합니다. CausaLab은 경량 도메인 특화 언어로 에이전트의 증거, 그래프 가설, 방정식 가설, 실험 계획, 행동을 기록합니다.2 이런 기록이 있어야 실패 원인을 구분할 수 있습니다. 문제가 증거 부족인지, 잘못된 가설인지, 부적절한 실험 계획인지, 혹은 너무 이른 확신인지 판단할 수 있기 때문입니다.
셋째, 성능 지표를 분리해야 합니다. 높은 정답률이 곧 인과 이해를 뜻하지는 않습니다. 예측은 맞았지만 메커니즘 복원은 틀릴 수 있고, 반대로 부분적으로 올바른 메커니즘을 찾았지만 최종 예측에서 실패할 수도 있습니다. CausaLab이 예측 성공과 인과 메커니즘 복원을 함께 평가하는 이유가 여기에 있습니다.2
배울 점: 더 많은 답보다 더 나은 학습 루프
Continual Interactive Causal Agent의 의미는 새로운 유행어보다 학습 환경의 전환에 가깝습니다. 앞으로의 에이전트는 정답을 한 번 생성하는 시스템이 아니라, 환경과 상호작용하며 증거를 모으고, 실험하고, 자신의 원인 모델을 고치는 시스템에 가까워질 수 있습니다.
실무적으로는 질문이 바뀝니다. “이 에이전트가 답을 맞혔는가”에서 “이 에이전트가 어떤 증거로 어떤 가설을 세웠고, 어떤 개입을 통해 그 가설을 검증했는가”로 옮겨가야 합니다. 그 기준을 갖출 때, 에이전트는 단순 자동화 도구를 넘어 계속 배우는 인과적 문제 해결자로 평가될 수 있습니다.
2CausaLab: A Scalable Environment for Interactive Causal Discovery Toward AI Scientists
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.