Skip to main content
공개 노트

Step 5 Preview, 100만 토큰보다 중요한 것

Views 8약 3분생성형 AI 활용
Summary

Step 5 Preview: 100만 토큰 컨텍스트를 실무에 적용하는 법

한줄 요약: Step 5 Preview는 대규모 멀티모달 입력과 긴 출력을 지원하는 희소 Mixture-of-Experts 모델로, 도입 시에는 사양보다 장문 정확도와 작업 완주율을 중심으로 평가해야 한다.

6,000억 매개변수 중 토큰당 270억 개를 활성화한다

StepFun이 출시한 Step 5 Preview는 총 6,000억 개의 매개변수를 갖춘 희소 Mixture-of-Experts 모델이다. 모든 매개변수를 매번 사용하는 대신, 입력에 따라 토큰당 270억 개를 활성화한다.1

이 구조는 모델의 전체 용량과 실제 연산량을 분리한다. 다만 활성 매개변수가 적다고 해서 응답 속도나 결과 품질이 자동으로 보장되는 것은 아니다. 실제 환경에서는 정확도뿐 아니라 지연 시간, 처리량, 작업 실패율을 함께 측정해야 한다.

100만 토큰을 넓은 작업 공간으로 활용한다

Step 5 Preview의 모델 ID는 step-5-preview다. 최대 100만 토큰의 컨텍스트 창을 제공하며, 최대 6만4천 토큰의 텍스트를 출력할 수 있다. 입력은 텍스트·이미지·비디오를 지원하고, 한 요청에 이미지를 최대 60개까지 포함할 수 있다.2

이 사양은 긴 코드 저장소와 오류 로그를 함께 검토하거나 여러 문서와 시각 자료를 교차 분석하는 작업에 유용하다. 그러나 컨텍스트가 크다는 것은 더 많은 정보를 한 번에 전달할 수 있다는 뜻이지, 필요한 내용을 항상 정확히 찾아낸다는 뜻은 아니다.

따라서 긴 입력을 활용할 때는 다음 항목을 별도로 검증하는 편이 좋다.

  • 입력 후반부의 핵심 정보까지 정확히 회수하는가

  • 여러 문서의 내용을 혼동하지 않는가

  • 답변의 근거와 출처를 일관되게 추적하는가

  • 긴 출력에서도 형식과 논리를 유지하는가

검색, 코드 실행, 문서 처리 같은 외부 기능도 별도의 설계가 필요하다. 모델의 긴 컨텍스트와 멀티모달 입력 지원이 외부 시스템에 대한 접근 권한을 의미하지는 않는다. 에이전트형 워크플로에 Step 5 Preview를 적용하려면 애플리케이션에서 도구, 권한, 오류 처리 방식을 함께 구성해야 한다.

단가보다 작업 완주율을 평가한다

API 가격은 입력 100만 토큰당 1.00달러, 출력 100만 토큰당 2.70달러다. 오픈 가중치 공개는 2026년 10월 15일로 예정돼 있다.1

비용을 비교할 때는 토큰 단가만 보지 말고 하나의 작업을 끝내는 데 필요한 재시도와 후처리까지 포함해야 한다. 특히 Preview 단계의 파일럿에서는 다음 지표가 실질적인 판단 기준이 된다.

  • 장문 입력에서의 정확도와 정보 회수율

  • 도구 연동 과정의 호출 오류와 재시도 횟수

  • 요청부터 최종 결과물까지 걸리는 전체 시간

  • 사람의 검수와 수정이 포함된 작업당 총비용

  • 중단 없이 요구한 결과물까지 도달하는 작업 완주율

결국 Step 5 Preview의 가치는 얼마나 많은 자료를 입력할 수 있는지가 아니라, 그 자료를 활용해 긴 작업을 얼마나 안정적으로 완수하는지에 달려 있다. 실제 업무와 유사한 파일럿을 구성하고 품질, 시간, 비용, 완주율을 함께 기록해야 100만 토큰 컨텍스트의 실질적 이점을 판단할 수 있다.

1StepFun Launches Step 5 Preview: A 600B-Total, 27B-Active MoE Model With 1M Context for Long-Horizon Agentic Work

2platform.stepfun.ai

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기