Mistral Large 2 - 123B 모델 및 한국어 지원 인공지능 모델
Mistral AI Large 2
Mistral Large 2는 최첨단 언어 모델로, 코드 생성, 수학적 추론, 그리고 다국어 지원에서 뛰어난 성능을 자랑합니다. 이 모델은 Mistral AI에 의해 개발되었으며, 최신 AI 언어 모델 중 하나로 사용자들에게 다양한 애플리케이션에서의 활용 가능성을 제공합니다.
소개
Mistral Large 2는 1230억 개의 파라미터를 가진 대형 언어 모델(LLM)로, 단일 노드 상에서 높은 처리량으로 구동될 수 있도록 설계되었습니다. 이 모델은 https://chat.mistral.ai 에서 사용 가능하며, 연구용 라이선스 하에 공개되어 연구 및 비상업적 용도로는 무료로 사용할 수 있습니다. 상업적 용도로 사용하기 위해서는 별도의 상업적 라이선스가 필요하며 미스트랄에 요청해야 합니다.
chat.mistral.ai 에서 사용하는 모습.
주요 특징
성능 및 효율성
Mistral Large 2는 성능 비용 효율성을 기준으로 새로운 지평을 열었습니다. 특히, Massive Multitask Language Understanding (MMLU) 벤치마크에서 84.0%의 정확도를 달성하며, 비용 대비 성능 측면에서 새로운 기준을 설정했습니다. 코드 생성 벤치마크는 GPT-4o, Claude 3 Opus, Llama 3 405B와 동등한 성능을 보여주며, 이전 모델인 Mistral Large보다 훨씬 뛰어난 성능을 자랑합니다.
언어 다양성 및 다국어 지원
Mistral Large 2는 영어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 아랍어, 힌디어, 러시아어, 중국어, 일본어 및 한국어를 포함한 여러 언어를 지원합니다. 또한, 80개 이상의 코딩 언어를 지원하며, 이는 Python, Java, C, C++, JavaScript, Bash 등을 포함합니다.
향상된 함수 호출 및 검색 기능
이 모델은 병렬 및 순차 함수 호출을 실행하는 능력이 향상되었으며, 여러 복잡한 비즈니스 애플리케이션에서 동작할 수 있는 능력을 갖추고 있습니다. 긴 맥락의 애플리케이션을 위한 128,000 토큰 컨텍스트 윈도우를 제공하여 대량의 데이터를 한 번에 처리할 수 있습니다.
성능 비교 및 벤치마크
멀티플 상식 및 추론
Mistral Large 2는 여러 유명한 수학적 벤치마크에서 성능이 향상되었습니다. GSM8K (8-shot), MATH (0-shot) 등의 벤치마크에서 개선된 추론 및 문제 해결 스킬을 보여줍니다. 코드 생성 벤치마크에서는 GPT-4, Claude 3 Opus, Llama 3 405B와 어깨를 나란히 합니다.
벤치마크 성능
다양한 벤치마크에서 Mistral Large 2의 성능은 다음과 같습니다:
MultiPL-E 벤치마크: 모든 모델을 동일한 평가 파이프라인을 통해 벤치마크함.
MT-Bench, Wild Bench, Arena Hard 벤치마크: 여러 모델의 평균 길이 생성 성능을 비교함.
Multilingual MMLU 벤치마크: 영어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 아랍어, 힌디어, 러시아어, 중국어, 일본어, 한국어에 대한 성능 측정.
접근성 및 파트너십
Mistral AI는 구글 클라우드 플랫폼, 아마존 베드락, Azure AI 스튜디오, IBM watsonx.ai와 같은 주요 클라우드 서비스 제공자와의 파트너십을 확대하여 새로운 Mistral Large 2 모델을 글로벌 오디언스에 제공합니다. 라 플레트포르메(la Plateforme, Mistral AI console)을 통해, 그리고 버텍스 AI를 이용한 관리형 API를 통하여 Mistral Large 2를 사용할 수 있습니다.
향상된 기능 및 정렬
Mistral Large 2는 사용자의 지시사항을 정확하고 신속하게 따를 수 있도록 대화 능력을 크게 개선하였습니다. 이는 긴 다중 대화에서도 훌륭한 성능을 보여줍니다.
결론
Mistral Large 2는 최신 기술을 기반으로 구축된 다국어 지원 및 코드 생성에서 뛰어난 성능을 발휘하는 강력한 언어 모델입니다. 이 모델은 연구 및 비상업적 용도로는 무료로 제공되며, 상업적 용도로는 별도의 라이선스를 통해 이용할 수 있습니다. 높은 성능과 비용 효율성을 바탕으로 다양한 사업 분야에서 활용될 수 있는 잠재력을 가지고 있습니다.
참고 문헌
