Mistral Small 4 출시: '작은데 다 하는' 올인원 오픈 모델

3월 16일, Mistral이 Mistral Small 4를 공개했습니다. 이름은 'Small'인데, 실제로는 추론·멀티모달·코딩 에이전트까지 한 모델에 합쳐 "모델 갈아타기"를 줄이려는 선언에 가깝습니다.¹ 오늘은 이 모델이 왜 실무에 의미가 있는지, 그리고 어디에 써먹기 좋은지 핵심만 정리해볼게요.

Mistral Small 4 핵심 스펙: MoE 119B와 256k 컨텍스트의 조합

Mistral Small 4는 Mixture-of-Experts(MoE) 구조로, 총 119B 파라미터지만 토큰마다 약 6B만 활성화되는 방식이라 "덩치는 큰데 계산은 상대적으로 가볍게" 설계되었습니다.² 전문가(Experts)는 128개, 그중 4개가 토큰마다 선택되어 돌아간다고 알려졌죠.²

또 하나 눈에 띄는 건 256k 컨텍스트 윈도우입니다.² 이건 단순 자랑용 숫자라기보다, 실무에서 문서 쪼개기(청킹)나 RAG 파이프라인을 과하게 복잡하게 만들지 않아도 되는 쪽으로 흐름을 바꿉니다. 긴 계약서, 여러 파일로 흩어진 코드, 대화 이력 많은 상담 시나리오에서 "맥락 유지 비용"을 줄이는 데 도움이 됩니다.

reasoning_effort: 라우팅 대신 '한 모델에서 다이얼 조절'

이번 릴리스의 가장 제품적인 포인트는 요청마다 reasoning_effort를 조절한다는 아이디어입니다.² 빠른 응답이 필요하면 가볍게, 풀이가 필요한 문제면 더 깊게--이런 식으로요. 팀 입장에선 "빠른 모델/똑똑한 모델"을 따로 운영하며 트래픽 라우팅 규칙을 만들 필요가 줄어듭니다.

다만 초기 사용자 경험에서는 "문서에서 이 옵션을 어디서 설정하나?" 같은 공백도 보입니다. 실제로 한 개발자는 API 문서에서 추론 강도 설정 경로를 바로 찾기 어렵다고 코멘트했습니다.¹ 결론적으로 기능 자체는 매력적이지만, SDK/서빙 스택에서 얼마나 매끈하게 녹아들지는 업데이트를 더 지켜봐야 합니다.

멀티모달+에이전트 코딩: '한 API로' 제품을 단순화하는 쪽

Mistral은 Small 4를 추론(기존 Magistral), 멀티모달(Pixtral), 에이전트 코딩(Devstral)의 성격을 한데 묶은 모델이라고 설명합니다.¹ 즉, 챗봇·개발도우미·이미지 이해를 각각 다른 엔드포인트로 붙이던 팀에게 "하나로 합쳐 운영 복잡도 낮추자"는 제안입니다.

또 배포 관점에서 중요한 장점은 Apache 2.0 라이선스입니다.¹ 제품에 넣기 까다로운 라이선스 이슈가 상대적으로 적고, 온프레미스나 사내망 환경에 두고 쓰려는 기업에게 선택지가 넓어집니다. 다만 체크포인트 용량이 약 242GB로 알려져 있어,¹ "오픈이니까 내 노트북에서 바로" 같은 접근은 현실적으로 쉽지 않습니다.

시사점: '올인원+조절 가능한 추론'이 실무 표준이 될까

Mistral Small 4는 한 문장으로 "통합"과 "조절"을 들고 왔습니다. 통합은 모델 스위칭을 줄여 제품 아키텍처를 단순하게 만들고, 조절은 같은 모델로도 비용/지연을 상황에 맞춰 관리하게 해줍니다.²

실무 팁도 간단합니다. 첫째, 긴 문서/코드베이스를 다루는 서비스라면 256k 컨텍스트를 "RAG 대체재"로 보기보다 "RAG 부담을 줄이는 카드"로 잡는 게 안전합니다. 둘째, reasoning_effort가 안정적으로 노출되면, 고객 문의/일반 챗은 낮게, 장애 분석/코드 리뷰는 높게 같은 정책이 꽤 강력해질 수 있습니다. 셋째, 자가 호스팅은 모델 크기와 GPU 요구사항을 냉정하게 보고, 가능하면 검증된 서빙 경로(vLLM 등) 위주로 계획하는 편이 시행착오를 줄입니다.²

참고

¹Introducing Mistral Small 4

²Mistral AI Releases Mistral Small 4: A 119B-Parameter MoE Model that Unifies Instruct, Reasoning, and Multimodal Workloads - MarkTechPost