Skip to main content
공개 노트

North Small Translate, 218B보다 중요한 숫자는 25B다

Views 5약 3분생성형 AI 활용
Summary

North Small Translate: 번역 품질과 자체 배포를 함께 고려한 설계

번역 모델을 평가할 때는 품질만 봐서는 부족하다. 지원 언어 전반에서 성능이 안정적인지, 자체 환경에 배포할 수 있는지, 필요한 컴퓨팅 자원을 감당할 수 있는지도 함께 따져야 한다.

Cohere가 공개한 North Small Translate는 이러한 요구를 겨냥한 번역 전용 모델이다. 정식 식별자는 North-Small-Translate-1.0이며, Cohere의 North 모델군에서 처음 선보인 번역 특화 모델이다.12

218B의 용량, 토큰당 25B의 연산

North Small Translate는 디코더 전용 희소 Mixture-of-Experts Transformer다. 모든 매개변수를 매번 사용하는 대신, 입력 토큰에 적합한 일부 전문가만 선택해 계산한다.

전체 매개변수는 218B지만 토큰 하나를 처리할 때는 25B가 활성화된다. 모델에 포함된 전문가 128개 가운데 토큰마다 8개를 선택하며, 이와 별도로 모든 토큰에 적용되는 공유 전문가도 사용한다.2

전문가 선택은 라우터가 담당한다. 라우터는 전문가 로짓에 시그모이드 함수를 적용하고, 상위 k개 결과를 선택한 뒤 정규화한다.2 이 구조의 핵심은 전체 모델의 용량을 유지하면서 토큰마다 필요한 일부 경로에만 연산을 집중하는 데 있다.

83.6점보다 중요한 평가 방법

North Small Translate는 50개 언어를 지원하며, Cohere의 WMT26 평가에서 83.6점을 기록했다.12 이 수치는 여러 언어를 아우르는 기본 성능을 파악하는 출발점으로는 유용하지만, 실제 도입 여부를 결정하는 최종 기준은 아니다.

조직마다 문서 유형과 요구 조건이 다르기 때문이다. 도입 전에는 다음 항목을 자체 데이터로 검증하는 편이 안전하다.

  • 전문 용어와 고유명사의 일관성

  • 숫자·단위·날짜의 보존

  • 표, 목록, 마크업 등 서식 유지

  • 핵심 언어쌍과 저자원 언어의 품질

  • 지연 시간과 처리량 대비 인프라 비용

오픈 웨이트 역시 곧바로 가벼운 운영 환경을 의미하지는 않는다. 최소 구성도 4비트 가중치 기준 B200 1장 또는 H100 2장이 필요하며, 입력과 출력 문맥 길이는 각각 16K다.12 따라서 자체 배포 가능성과 실제 운영 경제성은 구분해 평가해야 한다.

라이선스와 도입 경로

가중치는 CC BY-NC 4.0에 따라 연구 및 비상업적 용도로 무료로 사용할 수 있다. 상업적 이용은 별도 조건이 적용되며, Cohere Model Vault 또는 RWS Language Weaver를 통해 제공된다.12

결국 도입 판단에서는 공개 벤치마크, 내부 번역 품질, 인프라 요구 사항, 라이선스를 하나의 기준표에 놓고 비교해야 한다. 특히 218B라는 전체 규모보다 토큰당 25B만 활성화하는 구조가 실제 환경에서 어떤 품질과 비용으로 이어지는지를 확인하는 것이 중요하다.

한줄 요약: North Small Translate는 218B 규모의 용량과 토큰당 25B의 선택적 연산을 결합해, 다국어 번역 품질과 자체 배포 가능성을 함께 제시한 오픈 웨이트 모델이다.

1Introducing North Small Translate: A leading sovereign open-weight machine translation model

2CohereLabs/North-Small-Translate-1.0 · Hugging Face

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기