Thinking Machines Inkling: 성능보다 커스터마이징에 초점을 둔 오픈 모델

Thinking Machines Lab은 2026년 7월 15일 첫 오픈 웨이트 모델 Inkling을 공개했다. Apache 2.0 라이선스로 배포되며, Thinking Machines의 파인튜닝 플랫폼 Tinker에서도 이용할 수 있다.¹

Inkling을 이해할 때는 단순한 성능 순위보다 구조와 운영 조건을 함께 봐야 한다. 이 모델의 핵심 가치는 조직이 자체 데이터와 목적에 맞게 조정할 수 있다는 데 있다.

9,750억 개 매개변수를 모두 활성화하지 않는다

Inkling은 총 9,750억 개 매개변수 중 410억 개를 활성화하는 희소 Mixture-of-Experts(MoE) 모델이다. 66개 레이어로 구성된 디코더 전용 자기회귀 트랜스포머이며, 각 토큰은 256개 전문가 중 6개와 항상 활성화되는 공유 전문가 2개로 라우팅된다.¹

어텐션 구조에는 로컬 레이어와 글로벌 레이어가 함께 사용된다. 컨텍스트 창은 최대 100만 토큰으로, 긴 입력을 하나의 문맥 안에서 처리할 수 있다.¹ 다만 긴 컨텍스트를 지원한다는 사실만으로 실제 업무 성능이 보장되지는 않는다. 필요한 정보의 검색 정확도와 처리 비용, 응답 지연 시간을 구체적인 사용 사례에서 검증해야 한다.

멀티모달 입력을 하나의 디코더에서 처리한다

Inkling은 텍스트와 이미지, 오디오를 입력으로 지원한다. 이미지는 계층형 패치 인코더로 처리하고, 오디오는 이산 토큰으로 인코딩한다. 각 입력 모달리티는 공통 은닉 공간으로 투영된 뒤 하나의 디코더에서 공동 처리된다.¹

이 구조는 문서와 도표를 함께 분석하거나 녹음과 텍스트를 결합하는 작업에 활용할 가능성을 보여준다. 그러나 출력 형식은 UTF-8 텍스트다. 즉, 이미지와 오디오를 이해할 수는 있지만 이를 직접 생성하는 범용 멀티모달 입출력 모델은 아니다.

도입 여부는 운영 조건으로 판단해야 한다

Inkling은 Tinker에서 파인튜닝할 수 있으며, 가중치는 Hugging Face에서 내려받을 수 있다.¹ 하지만 오픈 웨이트가 곧 저렴한 자체 운영을 의미하지는 않는다. 직접 배포하려면 BF16 기준 최소 2TB, NVFP4 양자화 버전도 최소 600GB의 GPU 메모리가 필요하다.¹

따라서 도입 초기에는 호스팅 환경에서 범위가 명확한 업무부터 검증하는 편이 현실적이다. 긴 문서 분석, 멀티모달 검색, 코딩 에이전트 같은 후보 작업을 정한 뒤 다음 항목을 함께 측정해야 한다.

• 실제 업무 데이터에서의 정확도

• 긴 컨텍스트 활용 효과

• 응답 지연 시간과 운영 비용

• 파인튜닝 전후의 성능 차이

• 자체 배포에 필요한 인프라 규모

Inkling의 의미는 단순히 거대한 오픈 모델이 하나 더 등장했다는 데 있지 않다. 중요한 질문은 “가장 뛰어난 모델인가”가 아니라 “우리의 데이터와 목적에 맞는 행동으로 얼마나 효과적으로 조정할 수 있는가”다. Inkling을 평가할 때도 벤치마크 점수보다 이 질문을 중심에 두는 것이 실용적이다.

¹Inkling Model Card - Thinking Machines Lab