AI 벤치마킹 기관이 OpenAI로부터의 자금 지원 공개를 기다렸다고 비판받다
- AI 벤치마크를 개발하는 조직이 OpenAI로부터 자금을 지원받았음을 최근에야 공개해 AI 커뮤니티 내에서 위법 행위 의혹이 제기됨.
- 비영리 단체 Epoch AI는 주로 Open Philanthropy에서 자금을 지원받고 있으며, 12월 20일에 FrontierMath 개발을 위해 OpenAI의 지원을 받았다고 발표함.
- FrontierMath는 AI의 수학 능력을 측정하기 위한 전문가 수준의 문제로 구성된 테스트이며, OpenAI는 이를 자사의 차기 AI인 o3에 사용함.
- 특정 기여자들은 OpenAI의 참여 사실을 나중에 알게 되어 문제의 투명성에 대한 불만 제기.
- 소셜 미디어에서는 이 비밀 유지가 FrontierMath의 객관성에 대한 신뢰를 훼손할 수 있다는 우려 제기됨.
- Epoch AI의 부국장인 타메이 베시로그루는 투명성 부족을 실수로 인정하면서도 FrontierMath의 무결성은 손상되지 않았다고 주장.
- OpenAI는 FrontierMath 문제집을 AI 훈련에 사용하지 않기로 언어적 합의를 했으며, Epoch AI는 독립적인 검증을 위한 별도의 문제집을 보유하고 있다고 언급함.
- 그러나 Epoch AI의 수학 책임자 엘롯 글레이저는 OpenAI의 o3 결과를 독립적으로 검증하지 못했다고 지적.
- AI 평가를 위한 경험적 벤치마크 개발 및 관련 자원 확보 과정에서 발생하는 이해 상충 문제를 보여주는 사례로 꼽힘.
3techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.