한눈에 보기
Xiaomi MiMo-V2.5는 2026년 4월 22일 공개된 Xiaomi의 네이티브 옴니모달 오픈소스 모델이다. 텍스트만 다루는 LLM이 아니라, 하나의 통합 구조 안에서 텍스트·이미지·비디오·오디오 이해를 함께 지원한다는 점이 핵심이다.1
이 모델은 MiMo-V2-Flash 계열의 언어 백본을 바탕으로 하고, 여기에 전용 비전 인코더와 오디오 인코더를 붙인 형태다. 그래서 긴 문서나 대화의 추론, 이미지·영상 이해, 음성 기반 입력 이해, 에이전트 워크플로를 한 모델 안에서 처리하는 방향을 겨냥한다.1
구조와 핵심 스펙
MiMo-V2.5는 Sparse MoE 구조를 사용한다. 전체 파라미터는 310B이고, 추론 시 활성화되는 파라미터는 15B다. 즉, 큰 모델의 표현력을 가져가면서도 매 토큰마다 전체 모델을 모두 쓰지 않는 방식으로 효율을 확보한다.1
컨텍스트 길이는 최대 1M 토큰이다. OpenRouter도 MiMo-V2.5의 1M 컨텍스트를 명시하며, 긴 문서 전체, 장기 대화, 복잡한 작업 맥락을 한 번에 넣는 용도에 적합하다고 설명한다.2
정밀도는 FP8 혼합 정밀도를 사용한다. 학습 규모는 약 48T 토큰으로 제시되어 있으며, 텍스트 사전학습, 멀티모달 프로젝트터 워밍업, 멀티모달 사전학습, SFT와 에이전트 후처리 학습, RL 및 MOPD로 이어지는 단계적 학습 과정을 거쳤다.1
어텐션과 장문 처리 방식
MiMo-V2.5의 언어 백본은 MiMo-V2-Flash에서 이어진 하이브리드 어텐션 구조를 사용한다. 슬라이딩 윈도우 어텐션과 글로벌 어텐션을 섞어 쓰며, MiMo-V2.5에서는 5:1 비율과 128 윈도우가 제시되어 있다.1
이 설계의 의미는 분명하다. 모든 토큰이 모든 토큰을 항상 보게 하면 긴 컨텍스트에서 비용이 급격히 커진다. MiMo-V2.5는 대부분의 층에서 가까운 문맥을 효율적으로 보고, 일부 층에서 전역 정보를 연결하는 방식으로 1M 토큰급 문맥을 현실적인 비용으로 다루려 한다.
비전 인코더는 729M 파라미터 ViT이고, 오디오 인코더는 261M 파라미터 Audio Transformer다. 비전 쪽은 이미지와 비디오 이해를, 오디오 쪽은 음성·소리 기반 입력 이해를 담당한다.1
학습 과정
MiMo-V2.5의 학습은 단순한 사전학습에서 끝나지 않는다. 먼저 다양한 텍스트 데이터로 언어 백본을 학습하고, 이후 이미지와 오디오를 언어 모델에 연결하는 프로젝트터를 짧게 워밍업한다. 그 다음 고품질 멀티모달 데이터로 대규모 멀티모달 사전학습을 진행한다.1
후반부에는 SFT와 agentic post-training이 들어간다. 이 단계에서 지시 따르기와 에이전트형 작업 수행 능력을 다듬고, 컨텍스트도 32K에서 256K, 다시 1M으로 확장한다.1
마지막으로 RL과 MOPD가 사용된다. RL은 지각, 추론, 에이전트 능력을 강화하는 데 쓰이고, MOPD는 여러 교사 모델의 능력을 하나의 학생 모델에 통합하는 방식으로 이해할 수 있다. 결과적으로 MiMo-V2.5는 단순 질의응답보다는 도구 호출, 긴 작업 계획, 멀티모달 입력 해석이 섞인 환경을 강하게 의식한 모델이다.1
강점: 에이전트와 멀티모달 이해
MiMo-V2.5의 가장 큰 강점은 에이전트 성능과 멀티모달 이해를 함께 노린다는 점이다. OpenRouter 설명에 따르면 MiMo-V2.5는 Pro 수준에 가까운 에이전트 성능을 더 낮은 추론 비용으로 제공하며, 이미지와 비디오 이해에서는 MiMo-V2-Omni를 넘어서는 멀티모달 지각 성능을 보인다고 소개된다.2
오디오 측면에서도 MiMo-V2.5 계열은 단순히 음성을 텍스트로 바꾸는 STT를 붙이는 수준을 넘어서려는 방향을 보인다. 별도의 MiMo-V2.5-ASR 자료는 중국어·영어, 중국어 방언, 코드스위칭, 노래 가사, 소음 환경, 다화자 대화 같은 복잡한 음성 인식 상황을 다룬다고 설명한다.3 이는 MiMo-V2.5의 오디오 이해 방향을 이해하는 데 참고가 된다.
Base, V2.5, Pro의 차이
MiMo-V2.5-Base와 MiMo-V2.5의 가장 중요한 차이는 컨텍스트 길이다. Base는 256K 컨텍스트를 제공하고, MiMo-V2.5는 1M 컨텍스트를 제공한다.1
MiMo-V2.5-Pro는 규모와 목적이 다르다. Pro는 1.02T 전체 파라미터와 42B 활성 파라미터를 가진 MoE 모델이며, 최대 1M 컨텍스트를 지원한다.4 일반 MiMo-V2.5가 옴니모달 이해와 비용 효율적인 에이전트 성능에 초점을 둔다면, Pro는 더 어려운 장기 에이전트 작업, 복잡한 소프트웨어 엔지니어링, 긴 호흡의 코딩 작업에 더 강하게 맞춰진 모델이다.5
Xiaomi의 Pro 소개 자료는 MiMo-V2.5-Pro가 수천 번의 도구 호출이 이어지는 장기 작업에서도 일관성을 유지하도록 설계되었다고 설명한다. 예시로 Rust 기반 SysY 컴파일러 구현, 데스크톱 비디오 편집기 제작, 아날로그 회로 설계 최적화 같은 긴 자율 작업 사례가 제시된다.5
API 가격과 활용 사례
OpenRouter 기준 MiMo-V2.5의 API 가격은 입력 100만 토큰당 0.14달러, 출력 100만 토큰당 0.28달러다. 컨텍스트는 1M으로 표시되어 있으며, 캐시 읽기 가격도 별도로 제공된다.2
이 가격 구조와 긴 컨텍스트를 고려하면 MiMo-V2.5는 긴 문서 분석, 대규모 회의록·로그 요약, 영상·이미지 자료가 섞인 리서치 보조, 음성 자료 기반 정리, 에이전트 프레임워크와 결합한 장기 작업 자동화에 적합하다. 특히 비용을 크게 올리지 않으면서 멀티모달 입력과 긴 문맥을 함께 처리해야 하는 경우에 매력적이다.
개발 관점에서는 OpenRouter에서 xiaomi/mimo-v2.5 모델 태그로 호출할 수 있고, 도구 호출, 응답 포맷, reasoning 관련 파라미터, 스트리밍 등을 지원한다.2 따라서 챗봇뿐 아니라 문서 기반 에이전트, 멀티모달 업무 자동화, 코드 보조 시스템에 붙이기 쉽다.
정리
MiMo-V2.5는 "긴 컨텍스트를 가진 멀티모달 에이전트 모델"로 보는 것이 가장 자연스럽다. 310B/15B Sparse MoE, 1M 컨텍스트, FP8 혼합 정밀도, 48T 토큰 학습, 하이브리드 어텐션, SFT·RL·MOPD 기반 후처리 학습이 모두 같은 방향을 가리킨다.
일반 MiMo-V2.5는 비용 효율적인 옴니모달·에이전트 모델이고, MiMo-V2.5-Pro는 더 큰 규모와 더 강한 장기 코딩·에이전트 성능을 원하는 경우의 상위 선택지다. 실사용에서는 1M 컨텍스트와 낮은 OpenRouter 가격이 결합되어, 긴 자료를 한 번에 읽고 멀티모달 입력까지 함께 처리하는 워크플로에서 특히 가치가 크다.
출처
1XiaomiMiMo/MiMo-V2.5 Hugging Face
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.