AI 모델 경쟁은 더 이상 ‘누가 가장 큰 모델을 만들었는가’만으로 설명되지 않습니다. 비용, 추론 효율, 자체 칩과의 결합, 제품 배포 가능성까지 함께 봐야 합니다. 특히 대형 클라우드 사업자에게 모델은 연구 결과물이면서 동시에 인프라 전략의 일부입니다. MAI-Base-1을 주목할 이유도 여기에 있습니다.
마이크로소프트가 자체 모델 라인업을 넓히는 흐름 속에서 MAI-Base-1은 단순한 기술 보고서가 아니라, 회사가 어떤 방식으로 모델을 키우고 운영 가능한 구조로 만들려 하는지를 보여주는 단서에 가깝습니다.
마이크로소프트가 자체 모델을 다시 전면에 세우는 이유
마이크로소프트는 2026년 6월 2일 연례 개발자회의 ‘빌드’에서 자체 AI 모델 7종을 공개했습니다. 공개된 제품군에는 추론 모델 ‘MAI-싱킹-1’, 이미지 모델 ‘MAI-이미지-2.5’, 음성 전사 모델, 음성 생성 모델, 코딩 모델이 포함됐습니다.3
이 발표에서 중요한 점은 모델 종류가 다양하다는 사실만이 아닙니다. 추론, 이미지, 음성, 코딩처럼 실제 제품과 클라우드 서비스에 바로 연결될 수 있는 영역을 포괄했다는 점이 더 큽니다. 자체 모델을 갖는다는 것은 특정 벤치마크 점수를 확보하는 문제가 아니라, 비용 구조와 배포 방식, 서비스 품질을 내부적으로 조정할 수 있는 여지를 넓히는 일입니다.
보도에 따르면 마이크로소프트는 2019년 오픈AI와 맺은 계약 때문에 독자 AI 모델 개발에서 한발 물러나 있었다고 알려졌습니다.3 그런 배경을 고려하면, 최근 자체 모델 공개는 오픈AI와의 관계를 단순히 대체한다기보다 선택지를 넓히는 움직임으로 해석할 수 있습니다. 외부 최첨단 모델을 활용하면서도, 특정 업무에는 자체 모델을 붙이는 혼합 전략이 가능해지기 때문입니다.
MAI-싱킹-1과 MAI-Base-1을 함께 봐야 하는 이유
빌드에서 소개된 ‘MAI-싱킹-1’은 활성 매개변수 350억 개 규모의 중형 추론 모델로 설명됐습니다.3 마이크로소프트는 이 모델이 다른 모델의 결과물을 본떠 학습하는 증류 없이, 자사가 확보한 데이터로 처음부터 학습된 모델이라고 밝혔습니다.3
또한 MAI-싱킹-1은 복잡한 다단계 업무 수행, 장문 맥락 추론, 코드 생성에 강점을 갖도록 설계됐다고 소개됐습니다.3 마이크로소프트는 GPT-5.5 대비 최대 10배 비용 효율적인 고효율 모델이라고 설명했으며, 자체 AI 칩 ‘마이아 200’으로 구동할 때 엔비디아 GB200보다 높은 효율을 얻을 수 있다고 밝혔습니다.3
이 대목은 MAI-Base-1을 읽는 관점을 바꿉니다. MAI-Base-1의 세부 설계는 독립적인 연구 메모가 아니라, 마이크로소프트가 자체 모델을 어떤 비용·효율 조건 아래에서 확장하려는지 보여주는 기술적 밑그림으로 볼 수 있습니다. 즉, 관심사는 ‘이 모델이 얼마나 큰가’보다 ‘어떤 확장 규칙을 통해 반복 가능한 모델 개발 체계를 만들려 하는가’에 있습니다.
MoE 모델에서 진짜 어려운 문제는 크기가 아니라 제어다
MAI-Base-1과 관련해 확인된 핵심은 MoE, 즉 Mixture-of-Experts 구조를 어떻게 확장하고 제어하느냐입니다. MoE는 여러 전문가 네트워크 중 일부를 선택적으로 활성화하는 방식입니다. 이론적으로는 전체 모델 규모를 키우면서도 매번 모든 계산을 수행하지 않아 효율을 얻을 수 있습니다.
하지만 실제 운영 관점에서는 문제가 복잡합니다. 토큰이 특정 전문가에게 몰리면 처리량과 안정성이 흔들릴 수 있고, 반대로 전문가를 충분히 활용하지 못하면 큰 모델을 둔 의미가 약해집니다. 따라서 MoE의 핵심은 ‘전문가가 많다’가 아니라 ‘전문가를 균형 있게, 필요한 만큼, 예측 가능한 비용으로 쓴다’에 가깝습니다.
관련 연구에서도 입력 난도에 따라 더 많은 전문가를 동적으로 활용하는 접근이 논의됩니다.2 이는 쉬운 요청에는 적은 계산을, 어려운 요청에는 더 많은 계산을 쓰는 방향입니다. 결국 MoE는 모델 구조의 문제가 아니라 라우팅, 부하 분산, 비용 통제까지 포함한 시스템 설계 문제입니다.
MAI-Base-1에서 확인되는 설계 단서
MAI-Base-1 보고서와 관련해 언급된 사실은 몇 가지로 압축됩니다.
첫째, 모델 깊이, 즉 레이어 수가 스케일링 변수로 사용됐다고 알려졌습니다.1 이는 단순히 파라미터 수를 키우는 방식이 아니라, 깊이를 중심축으로 모델 확장을 정리하려는 접근으로 볼 수 있습니다.
둘째, 은닉 크기 휴리스틱은 L * 256/3으로 제시됐습니다.1 여기서 중요한 것은 공식 자체보다, 모델 확장 과정에서 임의의 조합이 아니라 일정한 규칙을 두려 했다는 점입니다. 대형 모델 개발에서는 깊이, 은닉 크기, 전문가 구성, 학습 비용이 서로 얽히기 때문에 이런 규칙은 실험 공간을 줄이는 역할을 합니다.
셋째, MAI-Base-1은 loss-based load balancing을 사용한다고 언급됐습니다.1 MoE에서 부하 분산은 선택 사항이 아니라 필수 조건에 가깝습니다. 전문가 간 토큰 배분이 치우치면 효율을 얻기 어렵고, 학습 및 추론 과정에서 병목이 생길 수 있습니다.
넷째, 전문가 용량은 전문가가 처리할 수 있는 최대 토큰 수로 설명됐습니다.1 이 값은 모델 구조의 세부 매개변수처럼 보이지만, 실제로는 병목과 처리 안정성을 좌우하는 운영 변수입니다.
마지막으로 어블레이션은 100/200 tokens per parameter, 즉 TPP 조건에서 실행됐다고 언급됐습니다.1 이 정보는 모델 설계 선택을 비교할 때 어떤 학습 토큰 조건에서 검증했는지 살펴봐야 한다는 점을 보여줍니다.
의미: 마이크로소프트가 원하는 것은 ‘최대 모델’보다 ‘통제 가능한 모델’일 수 있다
MAI-Base-1의 설계 단서와 MAI-싱킹-1 발표를 함께 보면, 마이크로소프트의 관심은 무조건적인 초대형화보다 효율적이고 배포 가능한 모델 체계에 있는 것으로 읽힙니다. 특히 자체 칩, 자체 데이터, 자체 모델 제품군이 함께 언급되는 상황에서는 모델 성능만이 아니라 전체 스택의 효율이 중요해집니다.
이 접근의 장점은 분명합니다. 특정 서비스에 맞는 모델을 직접 조정할 수 있고, 추론 비용을 낮출 가능성이 있으며, 클라우드 인프라와 모델을 더 긴밀하게 결합할 수 있습니다. 반면 tradeoff도 있습니다. 자체 모델을 처음부터 학습하고 운영하려면 데이터 품질, 학습 안정성, 모델 평가, 하드웨어 최적화까지 모두 내부 역량으로 감당해야 합니다.
MoE 구조 역시 같은 양면성을 갖습니다. 잘 설계하면 계산 효율을 높일 수 있지만, 라우팅과 부하 분산이 불안정하면 기대한 효율을 얻기 어렵습니다. 따라서 MAI-Base-1의 관전 포인트는 ‘거대한 Dropless MoE’라는 표현 자체보다, 그 구조를 얼마나 반복 가능하고 안정적인 방식으로 확장할 수 있느냐입니다.
앞으로 봐야 할 질문들
독자가 MAI-Base-1과 마이크로소프트의 자체 모델 전략을 볼 때 확인해야 할 지점은 다음과 같습니다.
MAI-Base-1에서 제시된 스케일링 규칙이 후속 모델에도 일관되게 적용되는가
MoE 라우팅과 부하 분산이 실제 제품 환경에서도 안정적으로 작동하는가
MAI-싱킹-1 같은 중형 추론 모델이 비용 효율성을 실제 사용 사례에서 입증하는가
마이아 200 같은 자체 칩과 모델 설계가 얼마나 긴밀하게 최적화되는가
오픈AI 모델과 마이크로소프트 자체 모델이 어떤 역할 분담을 하게 되는가
MAI-Base-1은 하나의 모델 성능표로만 읽기에는 아깝습니다. 더 중요한 메시지는 마이크로소프트가 모델 크기, MoE 제어, 비용 효율, 자체 인프라를 하나의 문제로 묶어 보기 시작했다는 점입니다. 앞으로의 경쟁은 최고 성능 모델 하나를 보유했는지가 아니라, 다양한 업무에 맞는 모델을 얼마나 안정적이고 저렴하게 배포할 수 있는지에서 갈릴 가능성이 큽니다.
1MAI-Base-1 Report Reveals Scaling Ladder For Massive Dropless MoE Models
2Harder Task Needs More Experts: Dynamic Routing in MoE Models
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.