IBM이 Granite Speech 4.1 2B 계열을 공개했다. 핵심은 하나는 다국어 ASR과 양방향 음성 번역을 하는 기본 모델이고, 다른 하나는 비자기회귀(NAR) 방식으로 속도를 끌어올린 변형이라는 점이다.12 이건 단순히 "새 음성 모델이 나왔다"는 소식이 아니다. 음성 기능을 제품에 넣고 싶은 팀에게 가장 큰 제약인 지연시간, 운영비, 배포 위치, 프라이버시를 다시 계산하게 만드는 출시다.
대부분의 팀은 최고의 음성 모델이 아니라, 충분히 정확하면서도 작고 빠르고 여러 언어를 다루는 모델을 원한다. Granite Speech 4.1 2B가 중요한 이유는 바로 이 현실적인 기준에 맞춰 설계됐기 때문이다. 2B급 크기, Apache 2.0 라이선스, transformers와 vLLM 지원, 그리고 다국어 ASR·AST 조합은 "클라우드 API를 붙일까, 자체 운영할까" 사이에서 망설이던 팀에게 꽤 실질적인 선택지를 만든다.23
정확도보다 먼저 봐야 할 것은 "어디서 돌릴 수 있나"
확인된 사실부터 보자. 기본형 Granite Speech 4.1 2B는 영어, 프랑스어, 독일어, 스페인어, 포르투갈어, 일본어 ASR을 지원하고, 이들 언어와 영어 사이의 양방향 음성 번역을 제공한다. 영어에서 이탈리아어·중국어 번역도 포함된다.2 IBM은 이 모델이 17만4천 시간의 오디오로 학습됐고, OpenASR 리더보드에서 상위권 정확도를 기록했다고 밝힌다.23
여기서 실무적으로 더 중요한 건, 이 모델이 "작은 편"이라는 점이다. 2B는 모바일 온디바이스급이라고 단정할 수는 없지만, 대형 폐쇄형 멀티모달 모델을 매 호출마다 외부 API로 쓰는 구조와 비교하면 훨씬 유연하다. 사내 GPU 서버, 지역 리전 배포, 프라이빗 클라우드, 규제 산업의 폐쇄망 같은 시나리오에서 선택지가 생긴다. 성능이 조금 더 좋은 대형 모델보다, 운영 가능한 모델이 실제 제품에는 더 낫다.
반론도 있다. "작다고 해도 결국 GPU는 필요하지 않나?" 맞다. 특히 실시간 다채널 처리나 대량 배치에는 여전히 인프라가 필요하다. 하지만 음성 기능 도입의 현실적 병목은 종종 최고 정확도가 아니라, 지연시간 예산과 데이터 외부 반출 금지 정책이다. 그 점에서 2B급 오픈 모델은 기술 데모가 아니라 운영 전략의 문제를 건드린다.
ASR이 필요한가, 번역이 필요한가, 아니면 처리량이 필요한가
이 제품군은 "어떤 음성 워크플로를 만들 것인가"를 먼저 정하게 만든다.
기본형 granite-speech-4.1-2b는 전사와 번역을 함께 본다. 게다가 프롬프트만 바꿔 문장부호와 대소문자 복원을 할 수 있고, 키워드 바이어싱도 강화했다.2 회의록, 자막, 다국어 고객상담 요약 전단계처럼 "텍스트 품질"이 중요한 곳에 맞는다. 이름, 약어, 기술 용어를 잘 잡아야 하는 엔터프라이즈 워크로드에서 키워드 바이어싱은 벤치마크 숫자보다 더 중요할 수 있다.
반면 granite-speech-4.1-2b-nar는 목표가 다르다. 이 모델은 CTC 가설을 한 번에 수정하는 비자기회귀 편집 방식이며, IBM 공개 자료 기준 단일 H100에서 배치 추론 시 약 1820 RTFx를 제시한다.4 대신 지원 언어는 영어·독일어·프랑스어·스페인어·포르투갈어로 더 좁고, 기본형이 가진 번역·일본어·풍부한 출력 기능은 강조되지 않는다.4
즉 선택 기준은 이렇다.
자막·회의 번역·크로스랭귀지 UX면 기본형이 맞다.
콜센터 대량 전사나 검색 인덱싱처럼 처리량이 우선이면 NAR 쪽이 더 설득력 있다.
화자 분리와 단어별 타임스탬프가 필요하면 오히려 plus 변형을 봐야 한다.3
팀들이 자주 놓치는 건 전사 이후의 비용이다
음성 시스템은 "말을 글자로 바꾸는 것"에서 끝나지 않는다. 문장부호 복원, 독일어 명사 대문자 같은 언어별 표기, 이름·브랜드명 교정, 언어 전환 구간 처리, 후속 요약 모델 입력 정리까지 이어진다. Granite Speech 4.1 2B가 문장부호와 truecasing을 프롬프트 수준에서 지원하는 건 작아 보이지만, 실제론 후처리 파이프라인을 줄일 수 있다는 뜻이다.2
다만 한계도 분명하다. 기본형은 다국어와 번역을 함께 가져가지만, 전문 의료·법률 용어에 대한 도메인 적합성은 별도 검증이 필요하다. IBM이 제시한 강점은 주로 공개 벤치마크와 일반적 엔터프라이즈 시나리오다.23 또 NAR 모델은 보수적으로 편집하는 성향 때문에 noisy 환경에서 단어를 빠뜨릴 수 있다고 IBM이 직접 적고 있다.4 빠르다고 해서 무조건 대화형 제품에 좋은 것은 아니다. 음성 비서처럼 한 단어 누락이 UX를 망칠 수 있는 경우엔 오히려 기본형이 낫다.
언제 이 모델이 좋은 선택이고, 언제 아닌가
Granite Speech 4.1 2B는 "작은 다국어 음성 모델이 이제 쓸 만한가?"라는 질문에 꽤 강한 예스를 준다. 다만 조건부다. 최고 기록 하나보다 운영 가능성, 다국어 범위, 번역 통합, 라이선스, 사내 배포 가능성을 중시하는 팀에게 그렇다.12
반대로 초저지연 단일 언어 전사만 필요하거나, 이미 화자 분리·타임스탬프·도메인 튜닝이 깊게 들어간 스택을 운영 중이라면 더 나은 선택이 있을 수 있다. 이 제품군의 진짜 가치는 "작은 모델이 큰 모델을 이겼다"가 아니라, 음성 기능을 제품에 넣는 비용 구조를 바꿨다는 데 있다.
지금 이 모델을 봐야 하는 팀은 명확하다. 온디바이스에 가깝게 가야 하거나, 데이터 반출이 어렵거나, 여러 언어를 한 번에 처리해야 하거나, 전사와 번역 사이에서 스택을 단순화하고 싶은 팀이다. 판단 기준도 분명하다. 벤치마크 1등인지보다, 내 워크플로가 전사 우선인지 번역 우선인지, 그리고 처리량 우선인지부터 정해야 한다. Granite Speech 4.1 2B는 그 질문에 따라 꽤 다른 답을 주는 드문 음성 모델 출시다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.