Inkling, 큰 모델보다 '조정 가능한 모델'에 가깝다

Thinking Machines Lab이 2026년 7월 15일 공개한 Inkling은 이 회사의 첫 오픈 웨이트 모델이다. 총매개변수 규모보다 주목할 부분은 긴 컨텍스트와 멀티모달 입력을 지원하면서, 개발자가 Tinker를 통해 업무에 맞게 미세조정할 수 있다는 점이다.¹

거대하지만 일부만 활성화하는 모델

Inkling은 총 9750억 개 매개변수를 갖지만, 토큰을 처리할 때는 410억 개만 활성화하는 Mixture-of-Experts(MoE) 모델이다. 입력에 따라 일부 전문가 모듈만 선택해 사용하는 방식으로, 전체 모델의 용량과 실제 연산량을 분리한다.

구체적으로는 66개 레이어로 구성된 디코더 전용 자기회귀 트랜스포머다. 각 토큰이 256개 전문가 중 6개로 라우팅되며, 모든 토큰에 공통으로 적용되는 전문가 2개도 함께 활성화된다.¹

학습에는 텍스트·이미지·오디오·비디오 45조 토큰이 사용됐다. 가중치는 Apache 2.0 라이선스로 공개돼 활용과 수정의 폭이 넓다.² 더 작은 Inkling-Small도 테스트 중이며, 총 2760억 개 매개변수 가운데 120억 개를 활성화한다.²

100만 토큰 컨텍스트를 구현하는 구조

Inkling은 최대 100만 토큰의 컨텍스트 창을 지원한다. 다만 Tinker API에서 실제로 제공되는 한도는 25만6000토큰이다.¹³ 도입 시에는 모델 자체의 최대 사양과 이용할 플랫폼의 서비스 한도를 구분해야 한다.

긴 입력의 계산 부담을 관리하기 위해 어텐션 구조도 혼합했다. 가까운 범위만 처리하는 슬라이딩 윈도 어텐션과 전체 문맥을 연결하는 글로벌 어텐션 레이어를 5대 1 비율로 배치한다.⁴ 모든 레이어가 전체 입력을 살피는 대신, 로컬 처리를 중심으로 하면서 필요한 지점에 전역 연결을 두는 방식이다.

위치 정보 처리에는 RoPE 대신 어텐션 로짓에서 상대적 위치를 학습하는 방식을 사용한다. 여기에 현재 토큰과 직전 은닉 상태를 처리하는 짧은 1차원 합성곱인 SConv를 적용했다.⁴ 이미지는 계층형 패치 인코더를 거쳐 모델이 처리할 수 있는 임베딩으로 변환된다.¹

오픈 웨이트가 곧 쉬운 자체 배포를 뜻하지는 않는다

Inkling은 Tinker에서 미세조정할 수 있지만, 직접 실행하기 위한 하드웨어 요구량은 크다. BF16 모델에는 최소 2TB, NVFP4 양자화 모델에도 최소 600GB의 통합 GPU 메모리가 필요하다.¹ 따라서 많은 팀에는 처음부터 자체 배포하기보다 호스팅 환경에서 업무별 적합성을 검증하는 접근이 현실적이다.

평가할 때도 단일 벤치마크 점수만 봐서는 부족하다. 다음 조건을 함께 확인해야 한다.

• 실제 업무 데이터에서 미세조정 효과가 있는가

• 필요한 입력 길이를 플랫폼이 지원하는가

• 지연 시간과 토큰 비용이 운영 기준에 맞는가

• 멀티모달 기능이 구체적인 사용 사례에 도움이 되는가

• 배포 환경에 필요한 안전장치를 구성할 수 있는가

Inkling의 의미는 단순히 매개변수가 큰 모델이라는 데 있지 않다. 긴 문맥과 여러 유형의 입력을 처리하는 기반 모델을 조직의 목적에 맞게 조정할 수 있다는 점이 핵심이다. 실제 도입 가치는 최대 사양보다 미세조정 결과와 운영 비용, 배포 조건을 함께 검증할 때 드러난다.

¹Inkling Model Card - Thinking Machines Lab

²Inkling: Our open-weights model - Thinking Machines Lab

³Thinking Machines has released Inkling, the new leading U.S. open weights model

⁴Welcome Inkling by Thinking Machines