AI 시스템 평가 방법의 약점을 식별한 연구

옥스포드 대학교의 인터넷 연구소(OII)가 주도하고, EPFL, 스탠포드 대학교, 뮌헨 공대, UC 버클리 등 42명의 연구자가 참여한 새로운 연구가 인공지능(AI) 시스템의 평가 방식에서 과학적 엄격성이 부족함을 밝혀냈습니다.

연구 제목은 "Measuring What Matters: Construct Validity in Large Language Model Benchmarks"로, 총 445개의 AI 벤치마크를 검토한 결과, 이들 중 많은 벤치마크가 명확한 정의나 강력한 분석 방법을 기반으로 하지 않았음을 확인했습니다.

이러한 벤치마크는 AI 시스템의 발전, 능력 또는 안전성에 대한 신뢰할 수 있는 결론을 도출하는데 어려움을 초래합니다.

연구에 따르면, 현재 벤치마크의 16%만이 통계적 방법을 사용하여 모델 성능을 비교하고 있으며, 절반 가량은 추상적인 개념을 측정하려고 노력하지만 이를 명확히 정의하지 못하고 있습니다.

연구는 벤치마크의 명확한 정의와 통계적 분석을 통한 불확실성 보고 및 비교를 강화하는 등의 권고를 제시하고 있습니다.

연구팀은 잠재적인 개선점으로 벤치마크의 구체적인 정의 설계 및 실제 조건을 반영하는 평가 방법 구축 등의 8가지 권고안을 제시했습니다.

실무자와 규제자는 AI 벤치마크가 신뢰할 수 있는 설계 원칙을 따르고 있는지를 평가하는 "Construct Validity Checklist"를 활용할 수 있습니다.

이 연구는 NeurIPS 2025 학술대회에서 발표될 예정이며, AI 평가 방식의 근본적인 격차를 해결하기 위한 국제적인 공동 연구의 필요성을 강조했습니다.