AI 에이전트 평가는 답변이 그럴듯한지 확인하는 데서 끝나지 않습니다. 정책을 지키는지, 도구를 올바르게 호출하는지, 예외 상황에서 허용되지 않은 행동을 하지 않는지까지 검증해야 합니다.
Microsoft ASSERT는 이 문제를 다루기 위한 오픈소스 평가 프레임워크입니다. ASSERT는 Adaptive Spec-driven Scoring for Evaluation and Regression Testing의 약자로, 자연어로 작성된 행동 요구사항을 구조화된 평가와 테스트 사례로 바꿉니다.1
범용 점수보다 중요한 것은 "의도한 행동"이다
일반 벤치마크는 모델의 전반적인 성능을 비교하는 데 유용합니다. 하지만 실제 서비스에서 더 중요한 질문은 다릅니다.
고객지원 에이전트가 환불 정책을 정확히 따르는가? 사기 의심 사례를 적절히 넘기는가? 정책 밖 요청을 거절하는가? 이런 질문은 범용 점수만으로 판단하기 어렵습니다.
ASSERT는 조직의 정책과 요구사항을 입력으로 받아, 특정 에이전트가 의도한 대로 행동하는지 확인할 수 있는 평가 시나리오를 생성합니다.2 즉 ASSERT의 초점은 "AI가 얼마나 똑똑한가"가 아니라 "우리 서비스의 규칙과 기대 행동을 따르는가"에 있습니다.
요구사항을 실행 가능한 테스트로 바꾼다
ASSERT의 핵심은 자연어 요구사항을 테스트 가능한 형태로 전환하는 것입니다. 먼저 관심 있는 행동을 허용 행동과 비허용 행동으로 구조화하고, 이를 바탕으로 문제 시나리오와 단일 턴 또는 멀티턴 테스트 사례를 만듭니다.1
이 과정은 YAML로 구성할 수 있어, 조직의 정책 문서나 제품 요구사항을 평가 설정으로 옮기기 쉽습니다.2 결과적으로 평가 기준이 담당자의 감각이나 임시 프롬프트에만 의존하지 않고, 반복 가능한 테스트 자산으로 남습니다.
ASSERT가 유용한 또 다른 이유는 최종 답변만 보지 않는다는 점입니다. 도구 호출, 검색된 문맥, 라우팅, 중간 행동 같은 실행 경로를 기록할 수 있습니다.3 덕분에 단순히 "실패했다"에서 멈추지 않고, 어떤 단계에서 의도와 달라졌는지 추적할 수 있습니다.
배포 전 발견하고, 수정 후 다시 증명한다
ASSERT는 배포 전에 안전성과 품질 결함을 드러내는 것을 목표로 합니다.2 품질 평가뿐 아니라 안전성 평가에도 체계화된 접근법을 적용한다는 점이 중요합니다.2
실제 운영에서는 다음 흐름으로 이해할 수 있습니다.
정책과 요구사항을 바탕으로 평가 시나리오를 만든다.
에이전트를 실행해 결함을 식별한다.
프롬프트, 정책 제어, 도구 사용 방식 등을 수정한다.
같은 기준으로 재평가해 개선 여부를 확인한다.
Microsoft는 ASSERT가 개선 전후의 지표를 제공해 변경 효과를 비교할 수 있다고 설명합니다.2 따라서 ASSERT는 일회성 점검 도구라기보다, 에이전트를 배포하고 수정하는 과정에서 회귀 테스트를 반복하기 위한 기반에 가깝습니다.
특정 스택에 갇히지 않는 평가 계층
ASSERT는 LangChain, CrewAI, LiteLLM, OpenAI 등 여러 프레임워크에서 사용할 수 있으며, Microsoft Foundry에 종속되지 않도록 설계됐습니다.2 이는 평가 체계를 특정 플랫폼의 부가 기능이 아니라, 에이전트 개발·운영 전반에 걸친 독립적인 품질 관리 계층으로 둘 수 있다는 뜻입니다.
AI 에이전트를 운영하는 조직이라면 ASSERT에서 얻을 수 있는 가장 실용적인 메시지는 분명합니다. 정책 문서, 제품 요구사항, 런칭 체크리스트를 사람이 읽는 문서로만 두지 말고, 실행 가능한 평가 기준으로 바꿔야 한다는 것입니다.
결국 질문은 하나로 좁혀집니다.
우리 에이전트의 의도된 행동은 테스트로 증명되고 있는가?
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.