Pokee-Isaac 28B란 무엇인가 — 1,000만 토큰 컨텍스트의 실전 의미와 판단 기준
무언가를 ‘한 번에’ 처리할 수 있다는 약속은 언제나 매혹적이다. Pokee AI가 내놓은 Pokee-Isaac 28B는 바로 그 지점을 정면으로 겨냥한다. 280억 개 파라미터를 가진 텍스트 전용 모델로, 이미지·오디오·비디오 입력은 지원하지 않는다. 대신 길이에 집중한다. 1,000만 토큰 컨텍스트 윈도우, 즉 한 번에 약 25,000페이지 분량을 읽을 수 있는 창을 제공한다1. VPC, 온프레미스, 엣지 NPU까지 고객이 통제하는 환경 안에서만 실행되도록 설계된 점도 특징이다2. 모델 가중치는 비공개이며, 가격은 입력 100만 토큰당 0.15달러, 출력은 1.00달러로 책정됐다1.
이 숫자들이 실제 의사 결정에서 무엇을 의미하는지, 그리고 무엇을 아직 알 수 없는지에 초점을 맞춰 정리한다.
10M 컨텍스트는 ‘사용 가능한가’, 아니면 ‘주소 지정만 가능한가’
긴 컨텍스트를 논할 때 흔히 놓치는 구분이 있다. 주소 지정 가능한 길이와 실제로 처음부터 끝까지 쓸 수 있는 길이는 다르다. Pokee는 RULER 벤치마크에서 10M 토큰 기준 93.3% 점수를 보고하며, 이 컨텍스트가 “처음부터 끝까지 사용 가능한” 것이라고 강조했다1. 비교 대상으로 언급된 GPT-5.6 Luna나 Gemini 3.5 Flash Lite 등은 1M을 넘지 못했는데, 이들 상당수가 262K 이상의 컨텍스트를 아예 지원하지 않기 때문에 직접 비교로 보기 어렵다.
보다 까다로운 MRCR v2 테스트를 보면 그림이 좀 더 복잡해진다. 8개의 정보를 찾아 연관 짓는 이 멀티홉 과제에서 Isaac은 1M 구간에서 0.500을 기록해 경쟁 모델보다 우수했지만, 정작 10M에서는 아무도 측정하지 않았다1. 긴 컨텍스트가 진짜 효용을 내는지는 작업의 성격에 따라 달라진다는 점을 보여주는 대목이다. 전체 코드베이스나 계약서 묶음처럼 길이가 곧 정보의 완결성을 뜻하는 작업과, 여러 조각을 엮어야 하는 멀티홉 추론은 요구하는 능력이 다르다.
아키텍처는 아직 베일에 싸여 있다. Pokee는 “독점적인 디코더 전용이 아닌 아키텍처”라고만 밝혔을 뿐, 어텐션 메커니즘, 메모리 구조, 학습 레시피는 공개하지 않았다1. 단일 B200에서 전체 컨텍스트 프리필 속도가 137,200 토큰/초로 측정됐는데, 컨텍스트가 길수록 프리필 처리량이 증가하는 이 동작은 일반적인 디코더 전용 모델과 반대 방향이다. 이 때문에 문서 인코더 방식일 가능성이 제기되지만, Pokee AI가 콘솔에서 단일 통제 환경으로 측정했다고 밝힌 수치일 뿐 아직 독립적인 재현 검증은 발표되지 않았다1.
에이전트 성능과 배포 유연성 — 차별점은 어디에 있는가
Pokee-Isaac 28B는 함수 호출과 구조화된 출력을 지원하며, BFCL v4에서 70.94%로 GPT-5.6 Luna의 70.61%와 동등한 수준을 기록했다1. τ³-bench 같은 다중 턴 과제에서도 0.662로 경쟁 모델을 근소하게 앞섰다. 28B 모델로서는 강력한 결과지만, 프런티어 모델을 압도하는 지점은 아니다. 에이전트 성능 자체는 ‘동등’에 가깝다.
진짜 차별점은 배포 방식이다. 단일 B200은 물론, RTX 4090 워크스테이션과 Intel Arc Pro 카드에서도 실행 가능하며, 출시 당일 vLLM과 SGLang을 지원했다2. “어떤 요청도 경계 밖으로 나가지 않는다”는 전제 아래 온프레미스 라이선스를 제공하므로, 의료·법률·국방처럼 데이터 유출 자체가 허용되지 않는 영역을 정확히 겨냥하고 있다1.
지금 적용할 곳과 더 지켜봐야 할 곳
계약서 세트, 사건 파일, 전체 코드베이스처럼 방대한 데이터를 청크 단위로 자르고 검색 파이프라인을 붙이는 중간 과정 없이 한 번에 처리할 수 있다는 명제는 분명 매력적이다. 다만 10M 전체 컨텍스트를 호출할 경우 약 7분의 지연 시간이 발생하고, 비용은 1.56달러 안팎이 든다. 프롬프트 캐싱에 대한 문서화도 아직 이뤄지지 않았다1.
당장 프로토타이핑할 가치가 있는 지점은 명확하다. 1M–4M 범위에서 대안이 사실상 전무하고 온프레미스 배포가 강제되는 환경이라면, 무료 티어로 테스트를 시작해볼 만하다. 반면 10M이라는 숫자 자체에 기대야 하는 작업이거나, 여러 정보를 엮어 추론해야 하는 멀티홉 과제가 핵심이라면 그 조합을 검증한 외부 데이터는 아직 없다. 모델 가중치는 비공개이고, Zheqing Zhu가 2024년 설립해 Point72 Ventures 주도, Qualcomm Ventures와 Samsung NEXT가 참여한 1,200만 달러 규모의 시드 투자를 받은 초기 스타트업의 첫 제품이라는 점도 판단 근거에 포함되어야 한다1.
숫자보다 중요한 질문
Pokee-Isaac 28B가 던진 1,000만이라는 숫자는 기술적으로 인상적이다. 그러나 이 모델을 검토할 때 중심에 놓아야 할 것은 그 숫자가 아니다. 당신의 작업은 정말 10M 토큰이 필요한가, 아니면 잘 설계된 작은 컨텍스트로도 충분한가. 만약 데이터가 법적·정책적으로 API 경계를 넘을 수 없는 성질의 것이라면, 지금 검토할 이유가 있는 모델이다. 아니라면, 이 숫자가 증명하는 가치는 아직 당신의 문제와 만나지 않았을 가능성이 크다.
1Pokee-Isaac 28B: 1천만 토큰의 컨텍스트, 그리고 Pokee가 설명하지 않을 아키텍처
2Pokee-Isaac 28B: 10M-Token Context Window for On-Prem AI Deployment
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.