AI 모델 경쟁의 기준이 바뀌고 있습니다. 더 큰 모델을 만드는 것만으로는 충분하지 않습니다. 실제 업무에서는 긴 문서를 처리하고, 이미지를 이해하고, 도구를 호출하며, 여러 단계의 작업을 빠르게 이어가는 능력이 더 중요해지고 있습니다.
StepFun의 Step 3.7 Flash는 이런 흐름을 보여주는 198B 규모의 MoE 비전-언어 모델입니다. 196B 언어 백본과 1.8B 비전 인코더를 결합했으며, 네이티브 비전 기능과 256k 컨텍스트를 지원합니다.1 전체 모델은 크지만, MoE 구조를 통해 매번 모든 파라미터를 쓰지 않고 필요한 일부만 활성화하는 방식입니다.
큰 모델을 필요한 만큼만 쓰는 설계
Step 3.7 Flash의 핵심은 규모보다 사용 방식에 있습니다. 전체 파라미터는 198B지만, 토큰당 약 11B 파라미터만 활성화합니다.1 대형 모델의 표현력을 활용하되, 추론 비용과 속도를 줄이는 방향입니다.
처리량은 최대 초당 400토큰으로 제시됐습니다.1 여기에 256k 컨텍스트를 지원해 긴 보고서, 여러 단계의 검색 결과, 대규모 코드베이스처럼 한 번에 다뤄야 할 정보가 많은 작업에 맞춰져 있습니다.1
또한 low, medium, high의 세 가지 추론 수준을 선택할 수 있습니다.1 간단한 분류나 요약에는 낮은 추론 수준을, 복잡한 분석이나 에이전트 작업에는 높은 추론 수준을 쓰는 식으로 속도, 비용, 추론 깊이의 균형을 조절할 수 있습니다. 모든 요청에 같은 계산량을 쓰지 않도록 설계된 점이 실무적으로 중요합니다.
비전 기능의 초점은 설명보다 실행이다
Step 3.7 Flash의 비전 기능은 이미지를 설명하는 데 그치지 않습니다. 제품 UI, 문서, 차트, 자연 이미지 등 다양한 이미지 유형을 이해하고, 그 내용을 바탕으로 코드를 작성하거나 도구를 호출할 수 있다고 설명됩니다.2
이 차이는 에이전트형 워크플로에서 크게 작용합니다. 예를 들어 UI 와이어프레임, 애플리케이션 GUI, 데이터 차트를 구조화된 코드로 매핑하는 작업을 지원합니다.1 즉 “이미지를 보고 말하는 모델”이 아니라 “이미지를 보고 다음 작업으로 연결하는 모델”에 가깝습니다.
검색과 검증도 중요한 활용 지점입니다. Step 3.7 Flash는 불완전한 시각 자료에서 누락된 데이터를 식별하고, 조회를 실행해 맥락을 검증할 수 있다고 소개됩니다.1 문서 분석, 리서치 자동화, 금융 보고서 파싱처럼 시각 정보와 텍스트 근거를 함께 다뤄야 하는 작업에서 의미가 있습니다.
어디에 적합한 모델인가
Step 3.7 Flash가 겨냥하는 대표 사용 사례는 대규모 금융 보고서 파싱, 다단계 검색 루프, 동시 코딩 에이전트 파이프라인입니다.1 공통점은 단일 질문에 답하는 작업이 아니라, 긴 입력을 읽고 여러 단계를 거쳐 결과를 만들어야 한다는 점입니다.
따라서 이 모델을 검토할 때는 단순한 벤치마크 점수보다 워크플로 적합성을 먼저 봐야 합니다.
긴 컨텍스트가 실제 업무 품질을 높이는가
이미지, 문서, 차트를 코드나 도구 호출과 연결해야 하는가
요청마다 추론 깊이를 다르게 조절할 필요가 있는가
속도와 비용을 유지하면서 에이전트 작업을 오래 실행해야 하는가
이 질문에 해당한다면 Step 3.7 Flash의 설계 방향이 실질적인 장점이 될 수 있습니다. 반대로 짧은 텍스트 질의응답이나 단순 요약이 대부분이라면, 256k 컨텍스트나 비전-도구 연계 능력의 가치는 제한적일 수 있습니다.
배울 점: 에이전트 모델의 기준은 효율적인 실행이다
Step 3.7 Flash의 의미는 “또 하나의 큰 모델”이 아니라, 에이전트 시대에 모델이 어떻게 설계되어야 하는지를 보여주는 사례에 있습니다. 큰 파라미터 규모, 선택적 활성화, 긴 컨텍스트, 네이티브 비전, 조절 가능한 추론 수준을 결합해 실제 업무 흐름에 맞춘 것입니다.
앞으로 모델을 평가할 때는 크기만 볼 것이 아니라, 어떤 입력을 얼마나 오래 처리할 수 있는지, 시각 정보를 행동으로 연결할 수 있는지, 작업 난도에 따라 계산량을 조절할 수 있는지를 함께 봐야 합니다. Step 3.7 Flash는 그 판단 기준을 분명하게 보여주는 모델입니다.
2Step 3.7 Flash -- A high-efficiency Flash model for Real-World
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.