Inkling은 Thinking Machines Lab이 공개한 첫 오픈 웨이트 모델이다. 이 모델을 볼 때 핵심은 “가장 강한 챗봇인가”가 아니다. 더 중요한 질문은 “내 업무와 데이터에 맞게 얼마나 잘 고쳐 쓸 수 있는가”다.
Inkling은 그런 관점에서 설계된 기반 모델에 가깝다. 텍스트, 이미지, 오디오를 네이티브로 입력받고, 긴 컨텍스트와 파인튜닝 흐름을 전제로 공개됐다. 즉, 단순히 API로 호출하는 완성품이라기보다 기업과 개발자가 실험하고 조정할 수 있는 출발점이다.
Inkling은 어떤 모델인가
Inkling은 decoder-only 멀티모달 Mixture-of-Experts(MoE) 모델이다. MoE는 전체 모델을 항상 모두 쓰는 대신, 입력에 따라 일부 “전문가”만 활성화하는 구조다. Inkling은 총 975B 파라미터를 갖지만, 실제 추론 시 활성화되는 파라미터는 41B다. 최대 컨텍스트 윈도우는 1M 토큰이다.1
사전학습 규모도 크다. Thinking Machines Lab에 따르면 Inkling은 텍스트, 이미지, 오디오, 비디오를 포함한 45조 토큰으로 학습됐다.1 입력 측면에서는 텍스트·이미지·오디오를 네이티브로 처리한다. 별도 모듈을 얹어 멀티모달처럼 보이게 만든 모델이라기보다, 처음부터 여러 형식의 정보를 함께 다루도록 설계된 모델에 가깝다.
Thinking Machines Lab은 Inkling을 모델 패밀리의 첫 번째 공개 모델로 설명한다.1 함께 언급된 Inkling-Small은 유사한 학습 레시피로 만든 경량 모델이며, 활성 파라미터는 12B다.1 이는 Inkling이 단일 모델 발표라기보다 앞으로 이어질 모델 라인업의 출발점이라는 의미를 갖는다.
성능보다 중요한 것은 조절 가능성이다
Inkling 발표에서 눈에 띄는 점은 “현재 가장 강한 모델”이라는 식의 주장보다, 넓은 작업에 대응하고 파인튜닝하기 좋은 기반 모델이라는 방향성이다. 오픈 모델 경쟁의 기준이 단일 벤치마크 순위에서 실제 적용 가능성으로 이동하고 있음을 보여준다.
Inkling은 에이전트 작업, 추론, 코딩, 지시 따르기, 사실성, 비전, 오디오 작업 전반을 대상으로 학습됐다.1 특히 코딩·에이전트 하네스에서는 도구 세트와 스키마를 무작위화해 특정 도구 형식에 대한 민감도를 낮췄다.1
이 부분은 실제 제품 환경에서 중요하다. 에이전트가 호출하는 도구 이름, 인자 구조, 응답 스키마는 서비스마다 다르다. 특정 형식에 과하게 맞춰진 모델은 데모에서는 좋아 보여도 운영 환경에서는 쉽게 흔들린다. Inkling의 접근은 모델이 특정 도구 포맷을 외우기보다 다양한 도구 사용 패턴에 적응하도록 만드는 쪽에 가깝다.
또한 Inkling의 thinking effort 설정은 하네스 내부에서 조절할 수 있다.1 모든 요청에 같은 수준의 추론 비용을 쓰는 대신, 작업 난도에 따라 계산량과 응답 품질의 균형을 맞출 수 있다는 점에서 실무적 의미가 있다.
직접 운영하기보다 실험과 파인튜닝을 먼저 봐야 한다
Inkling은 Tinker에서 파인튜닝할 수 있다.1 Tinker 콘솔에는 Inkling과 대화해볼 수 있는 개발자용 Inkling Playground도 추가됐다.1 공개 방식 자체가 “모델을 받아 바로 서비스에 올리라”기보다, 먼저 테스트하고 조정하고 평가하는 흐름을 전제로 한다.
다만 직접 운영 장벽은 높다. Hugging Face 글에 따르면 Inkling의 bf16 체크포인트는 약 2TB VRAM이 필요하고, nvfp4 버전도 약 600GB VRAM이 필요하다.2 일반적인 기업이나 개발자가 로컬 또는 자체 서버에서 가볍게 운영할 수 있는 규모는 아니다.
따라서 현실적인 접근은 세 단계다.
Playground에서 기본 응답 품질과 멀티모달 처리 방식을 확인한다.
Tinker에서 자기 데이터와 업무 흐름에 맞춰 파인튜닝 가능성을 검토한다.
비용, 지연시간, 인프라 요구사항을 기준으로 실제 운영 방식을 결정한다.
이 순서로 보면 Inkling의 가치는 단순한 모델 크기보다 분명해진다. 중요한 것은 “975B 모델을 직접 돌릴 수 있는가”가 아니라, “이 모델을 내 업무에 맞게 조정할 경로가 있는가”다.
Inkling이 보여주는 모델 선택 기준
Inkling은 Design Arena Agentic Web Dev 리더보드에서 1257점을 기록했다.1 이런 수치는 참고할 만하지만, Inkling을 이해하는 핵심은 특정 점수 하나가 아니다. 더 중요한 것은 멀티모달 입력, 긴 컨텍스트, 에이전트·코딩 작업 대응, 파인튜닝 가능성을 하나의 공개 모델 흐름 안에 묶었다는 점이다.
앞으로 모델을 고를 때는 다음 질문이 더 중요해질 가능성이 크다.
내 데이터로 조정할 수 있는가?
텍스트뿐 아니라 이미지·오디오 같은 업무 입력을 자연스럽게 처리하는가?
도구 호출과 에이전트 워크플로에 안정적으로 들어갈 수 있는가?
비용과 지연시간을 작업별로 조절할 수 있는가?
직접 운영이 어려울 때 실험과 파인튜닝을 지원하는 플랫폼이 있는가?
Inkling은 “가져다 쓰는 모델”보다 “고쳐 쓰는 모델”의 방향을 보여준다. Thinking Machines Lab의 첫 공개 모델이라는 점에서도 의미가 있지만, 더 실용적인 의미는 기업과 개발자가 오픈 모델을 평가하는 기준을 바꾼다는 데 있다. 이제 중요한 것은 유명한 모델을 고르는 일이 아니라, 내 문제에 맞게 바꿀 수 있는 모델을 찾는 일이다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.