Instella-MoE-16B-A3B: 완전 개방형 MoE 모델이 풀어낸 설계와 재현 가능성
AMD가 공개한 Instella-MoE-16B-A3B는 단순한 신규 언어 모델 발표가 아니라, 대규모 Mixture-of-Experts 모델의 설계부터 후처리 파이프라인까지 연구자가 완전히 들여다볼 수 있도록 구성한 실험 자원이다. 총 160억 개 파라미터를 갖췄지만 토큰당 활성 파라미터는 28억 개에 불과하며, AMD Instinct MI300X 및 MI325X GPU와 ROCm 소프트웨어 스택으로 처음부터 훈련했다. 훈련에 사용된 데이터 혼합물, 구성 파일, 추론 코드, 그리고 모든 훈련 단계의 가중치까지 공개된 점이 이 모델을 주목할 가치가 있는 출발점으로 만든다.
효율이 곧 용량이다: 희소 구조와 두 가지 최적화
Instella-MoE-16B-A3B는 27개 디코더 레이어로 구성되며, 각 MoE 레이어마다 2개의 공유 전문가와 64개의 라우팅 전문가를 배치했다. 토큰이 들어오면 상위 6개의 라우팅 전문가를 선택해 총 8개의 전문가가 활성화되는 방식이다. 전체 용량을 크게 가져가면서도 실제 연산에 투입되는 파라미터를 억제해, 학습 부담을 낮추면서 표현력을 확보하는 전략이다.
여기에 계산 효율과 어텐션 품질을 동시에 끌어올리기 위한 두 가지 장치가 적용됐다.
Gated MLA는 전용 선형 투영으로 입력 조건 게이트를 만들고, 이를 출력 투영 전 멀티헤드 어텐션 출력에 곱한다. 토큰별로 낮은 효용의 어텐션 응답을 감쇠시키는 방식으로, 비용 증가를 최소화하면서 어텐션 품질을 높인다.
FarSkip-Collective은 통신 지연을 줄이기 위해 고안됐다. 오래된 부분 활성화를 미리 MoE 및 어텐션 레이어로 전달해 통신과 계산을 중첩시킴으로써, 전문가 병렬 처리 중 발생하는 통신 버블을 억제한다. 그 결과 사전 훈련 속도는 12.7% 향상됐고, 추론 시 첫 토큰 생성 시간(TTFT)은 최대 39.2% 단축됐다.
성능은 공개된 파이프라인에서 나온다
Instella-MoE-16B-A3B의 가치는 벤치마크 점수보다 전 구간이 투명하게 공개됐다는 사실에 더 무게가 실린다. 사전 훈련부터 4K에서 64K 토큰으로의 긴 문맥 확장, DPO, 강화 학습까지 이어지는 다단계 튜닝 체크포인트가 모두 제공된다. 특히 DPO 단계에서는 라우터 편향 업데이트와 부하 분산 손실을 비활성화해 MoE 특유의 불안정을 피했고, 이후 강화 학습 단계에서는 멀티-티처 온폴리시 증류(Multi-Teacher On-Policy Distillation)를 적용해 수학·코딩 성능을 유지하면서 명령 수행 품질을 높였다.
기본 체크포인트 평균 점수는 76.7로 동급 완전 개방 모델 중 최상위권에 해당하며, 장문 과제인 HELMET 41.5, RULER 79.4도 준수한 수준으로 보고됐다.
이 모델을 어떻게 연구에 활용할 것인가
가장 큰 제약은 모델 가중치에 ResearchRAIL 라이선스가 적용돼 상업 서비스에 바로 사용할 수 없다는 점이다. 그러나 MIT 라이선스로 제공되는 훈련 코드와 공개된 설정을 활용하면, 자체 데이터로 유사한 구조를 재현하거나 변형 실험을 설계하는 데 부족함이 없다. 서빙 단계에서는 전문가 병렬 처리를 위한 SGLang 환경 구성과 FarSkip 방식의 통신 중첩 효과 검증이 핵심 포인트가 되며, AMD GPU 환경에 특화된 최적화를 다른 하드웨어로 이식할 때는 추가 조정이 필요할 수 있다.
Instella-MoE-16B-A3B는 대규모 MoE 모델의 훈련 인프라, 구조적 최적화, 후처리 파이프라인까지 연구자가 완전히 재구성하고 검증할 수 있도록 공개된 거의 유일한 사례다. 이 모델을 읽는 일은 단순히 하나의 체크포인트를 사용하는 경험이 아니라, 효율적인 대형 언어 모델을 설계하는 방법론을 내부 구조 수준에서 이해하는 과정에 가깝다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.