Lumos: 통합 데이터, 모듈식 설계 및 오픈 소스 LLM을 사용한 학습 에이전트
- 🪄 Lumos는 통합 데이터 형식, 모듈식 설계 및 오픈 소스 LLM을 가진 학습 에이전트를 소개합니다.
- Lumos는 GPT-4/3.5 및 더 큰 오픈 소스 에이전트와 경쟁 성능을 달성합니다.
- Lumos는 기획, 지상화, 실행 모듈로 구성된 일반 에이전트 모듈러 프레임워크를 가지고 있습니다.
- 다양한 교육 데이터를 사용하여 ~40K의 고품질 하위 목표/작업 주석을 훈련시킵니다.
- Lumos는 웹/복잡한 QA 작업 및 수학 작업에서 GPT 시리즈 에이전트와 큰 오픈 에이전트보다 우수한 성능을 보여줍니다.
- Lumos 아키텍처는 계획 모듈, 지상화 모듈 및 실행 모듈을 포함합니다.
- Lumos는 외부 환경과 이전 메모리에 따라 각 반복에서 하나의 하위 목표와 해당 실행 가능한 작업을 생성하는 Lumos-반복적(Lumos-I)과 모든 하위 목표와 지상화된 작업을 한 번에 생성하는 Lumos-일회성(Lumos-O)의 두 가지 방식을 시도합니다.
- Lumos의 훈련은 기존 벤치마크의 지상 진실 추론 단계에서 고품질 주석을 LLM을 사용하여 변환하여 얻은 ~40K 주석으로 진행됩니다.
- Lumos는 다양한 복잡한 상호 작용 작업을 가장 잘 수행하는 것으로 나타났습니다.
- Lumos의 훈련 주석에 대한 추가 분석은 고품질로 변환된 주석이 성능 향상에 도움이 되며, 고수준의 하위 목표를 생성하는 것이 낮은 수준의 하위 목표보다 우수한 선택임을 보여줍니다.
4allenai.github.io링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.