LLM 생성의 대표적인 병목은 여전히 “한 토큰씩” 이어 쓰는 디코딩 방식입니다. NVIDIA의 Nemotron-Labs-TwoTower가 주목할 만한 이유는 단순히 새 모델이 나왔기 때문이 아닙니다. 사전학습된 자기회귀 백본의 문맥 이해 능력은 유지하면서, 생성 과정에는 확산 모델의 병렬성을 끌어오려는 시도이기 때문입니다.
Nemotron-Labs-TwoTower는 무엇인가
Nemotron-Labs-TwoTower는 Nemotron-3-Nano-30B-A3B 백본 위에 구축된 블록 단위 자기회귀 확산 언어 모델입니다.1 확산 언어 모델은 다음 토큰을 하나씩 확정하는 대신, 노이즈가 섞인 여러 토큰 블록을 반복적으로 정제하며 출력을 만듭니다.
핵심은 이름 그대로 “두 개의 타워”입니다. 기존 확산 언어 모델은 하나의 네트워크가 문맥 표현과 반복적 디노이징을 모두 담당하는 경우가 많았습니다.1 TwoTower는 이 역할을 분리합니다.
AR 문맥 타워: 깨끗한 토큰을 인과적으로 처리해 문맥을 표현합니다.
확산 디노이저 타워: 노이즈가 있는 블록을 양방향 블록 어텐션으로 정제합니다.
크로스 어텐션: 디노이저 타워가 문맥 타워를 참조해 이미 확정된 문맥을 반영합니다.1
즉, TwoTower는 자기회귀 모델을 완전히 버리는 접근이 아니라, 자기회귀 문맥 처리와 확산 기반 블록 생성을 결합한 구조입니다.
무엇이 달라지는가
이 구조의 실질적 의미는 “AR의 안정성은 살리고, 생성 처리량은 높이려는 설계”에 있습니다. 문맥 타워는 기존 백본의 언어 능력을 제공하고, 디노이저 타워는 현재 생성할 블록을 병렬적으로 다듬습니다. 그래서 관심사는 단순한 모델 크기가 아니라, 디코딩 구조가 실제 생성 속도와 품질 균형을 어떻게 바꾸는지입니다.
논문에 따르면 Nemotron-Labs-TwoTower는 약 2.1조 토큰으로 학습됐고, 자기회귀 기준 모델 품질의 98.7%를 유지했습니다. 동시에 벽시계 기준 생성 처리량은 자기회귀 기준보다 2.42배 높았습니다.1 Hugging Face 모델 카드도 기본 설정에서 같은 품질·처리량 수치를 제시합니다.2
이 수치는 TwoTower를 볼 때 중요한 판단 기준을 제공합니다. 목표는 최고 품질만을 밀어붙이는 것이 아니라, 품질 손실을 제한하면서 생성 처리량을 끌어올리는 것입니다.
어디에 먼저 써볼 만한가
Nemotron-Labs-TwoTower는 NVIDIA Nemotron Open Model License 아래 오픈 웨이트로 제공되며, 모델 카드는 상업적 사용 가능 모델로 안내합니다.2 다만 곧바로 모든 자기회귀 모델을 대체한다고 보기는 어렵습니다. TwoTower 확산 추론은 문맥 타워와 디노이저 타워를 함께 운용해야 하므로 메모리 요구량과 배포 복잡도를 함께 고려해야 합니다.
실무적으로는 다음처럼 처리량의 가치가 큰 작업에서 먼저 검토할 만합니다.
대량 배치 생성
합성 데이터 생성
반복적인 초안 생성
품질 손실을 일부 허용할 수 있는 고처리량 생성 파이프라인
반대로 수학, 코드, 정밀 추론처럼 작은 품질 차이도 결과에 크게 영향을 주는 영역에서는 자기회귀 기준선과 직접 비교해야 합니다. TwoTower의 장점은 “항상 더 낫다”가 아니라, 특정 조건에서 품질과 처리량의 균형을 다르게 잡을 수 있다는 점입니다.
핵심은 디코딩 방식의 변화다
Nemotron-Labs-TwoTower가 보여주는 방향은 분명합니다. LLM 경쟁은 더 큰 모델을 만드는 문제만이 아니라, 이미 학습된 언어 능력을 어떻게 더 효율적으로 디코딩할 것인가의 문제로도 확장되고 있습니다.
AR 문맥 처리와 확산 기반 블록 생성을 결합한 TwoTower는 그 흐름을 보여주는 실험입니다. 모델을 평가할 때도 이제는 파라미터 수나 벤치마크 점수만 볼 것이 아니라, 생성 방식, 처리량, 배포 비용, 품질 손실의 허용 범위를 함께 봐야 합니다.
2nvidia/Nemotron-Labs-TwoTower-30B-A3B-Base-BF16 · Hugging Face
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.