Mistral AI가 인기 있는 Mistral 7B LLM의 훨씬 더 유능한 후속작인 Ministral 8B를 출시합니다.
- 프랑스 AI 스타트업 Mistral AI가 엣지 디바이스와 엣지 컴퓨팅 시나리오를 위해 설계된 두 개의 새로운 언어 모델을 발표했습니다.
- 새로운 모델들은 Ministral 3B와 Ministral 8B로 불리며, "Ministraux" 계열에 속합니다.
- 두 모델 모두 최대 128,000 토큰의 문맥 길이를 지원하며, 국지적 처리와 프라이버시가 중요한 사용 사례에 적합합니다.
- 사용 사례는 기기 내 번역, 오프라인 지능형 비서, 지역 데이터 분석, 자율 로봇 등을 포함합니다.
- Ministraux 모델들은 대형 언어 모델과 결합하여 다단계 워크플로우에서 효율적인 중간 역할을 할 수 있습니다.
- 벤치마크 결과, Ministral 3B와 8B는 구글의 Gemma 2 2B와 Meta의 Llama 3.1 8B보다 뛰어난 성능을 보였습니다.
- 특히, Ministral 8B는 지식, 상식, 함수 호출, 다국어 능력 분야에서 탁월한 성능을 발휘합니다.
- 새로운 모델들은 API를 통해 이용 가능하며, 가격은 백만 토큰당 Ministral 8B는 0.10달러, Ministral 3B는 0.04달러입니다.
- 연구 목적으로는, Mistral AI가 Ministral 8B Instruct의 모델 가중치를 제공합니다.
- 모델들은 곧 Google Vertex와 AWS 같은 클라우드 파트너를 통해서도 제공될 예정입니다.
5the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.