AI 경쟁은 오랫동안 “가장 강한 단일 모델”을 중심으로 전개됐습니다. Sakana AI의 Fugu는 조금 다른 질문을 던집니다. 하나의 모델을 더 키우는 대신, 여러 모델을 어떻게 고르고 조합할 것인가입니다.
Fugu는 사용자의 요청 뒤에서 적절한 언어 모델을 선택하고, 필요한 경우 여러 모델의 결과를 합성해 하나의 응답으로 돌려주는 오케스트레이터입니다. 여기에 NVIDIA의 오픈 Nemotron 모델이 전문 에이전트로 추가될 예정이라는 점은, 오픈 모델이 단독 제품이 아니라 “모델 팀의 구성원”으로 활용되는 흐름을 보여줍니다.1
Fugu는 ‘답하는 모델’보다 ‘모델을 지휘하는 모델’에 가깝다
Fugu는 2026년 6월 22일 공개된 멀티 에이전트 오케스트레이션 제품입니다.2 사용자는 하나의 API에 요청을 보내지만, 내부에서는 Fugu가 요청을 직접 처리할지, 전문 모델들을 불러 작업을 나눌지 결정합니다.
이 방식의 핵심 가치는 복잡성 제거입니다. 멀티 모델 시스템을 직접 만들려면 모델 선택, 라우팅, 작업 위임, 결과 검증, 최종 응답 합성 같은 로직을 애플리케이션 코드에 구현해야 합니다. Fugu는 이 과정을 내부에서 처리해 개발자가 여러 모델을 직접 연결하고 관리해야 하는 부담을 줄입니다.2
Fugu 자체도 언어 모델입니다. 여러 LLM을 호출하도록 학습됐으며, 필요하면 자기 자신을 재귀적으로 에이전트 풀에 포함할 수도 있습니다.2 즉 Fugu는 단순한 라우터라기보다, 요청에 맞춰 모델 팀을 구성하고 지휘하는 모델에 가깝습니다.
단일 API 뒤에 멀티 에이전트 복잡성을 숨긴다
Fugu의 접근 방식이 실용적인 이유는 인터페이스에 있습니다. Fugu는 단일 OpenAI 호환 API로 접근할 수 있으며, Sakana API는 Chat Completions와 Responses 엔드포인트를 모두 지원합니다.2
개발자 입장에서는 기존 API 호출 방식에 가깝게 사용하면서도, 내부적으로는 모델 선택과 에이전트 조합의 이점을 얻을 수 있습니다. 애플리케이션이 직접 “이 요청은 코딩 모델로, 이 요청은 추론 모델로, 실패하면 다른 모델로” 같은 규칙을 세밀하게 관리하지 않아도 되는 구조입니다.
초기 공개 모델은 일반 작업용 Fugu와 고난도 작업용 Fugu-Ultra 두 가지입니다.3 두 모델은 같은 철학을 공유하지만 우선순위가 다릅니다.
Fugu: 입력당 하나의 워커 모델을 선택해 속도와 지연시간을 중시합니다.3
Fugu-Ultra: 입력당 여러 에이전트의 워크플로를 구성해 품질을 우선합니다.3
따라서 Fugu는 “항상 여러 모델을 많이 부르는 시스템”이라기보다, 요청의 성격에 따라 단순 호출과 복합 워크플로 사이를 조절하는 오케스트레이터로 이해하는 편이 정확합니다.
Nemotron 통합의 의미: 오픈 모델을 ‘전문 에이전트’로 쓴다
Sakana AI는 NVIDIA의 오픈 Nemotron 모델을 향후 Fugu 릴리스에 포함할 예정이라고 밝혔습니다.1 구체적인 출시일은 공개하지 않았습니다.
이 통합이 중요한 이유는 Nemotron이 단순히 Fugu에 “추가 모델”로 들어가는 것이 아니라, 특정 작업에 강한 전문 에이전트로 활용될 수 있기 때문입니다. NVIDIA Nemotron 3 Ultra는 약 5,500억 개의 파라미터와 550억 개의 활성 파라미터를 가진 모델로 알려져 있습니다. Fugu 안에서는 이런 대형 오픈 모델이 요청 전체를 항상 담당하기보다, 필요할 때 적절한 역할을 맡는 구성원이 될 수 있습니다.
오픈 모델은 단독으로 평가하면 약점이 부각되기 쉽습니다. 하지만 오케스트레이터 안에서는 다르게 쓰일 수 있습니다. 잘하는 작업을 맡기고, 부족한 부분은 다른 모델이나 검증 단계로 보완하는 방식입니다. Nemotron 통합은 오픈 모델의 경쟁력이 “단독 성능”뿐 아니라 “워크플로 안에서의 역할”로 평가될 수 있음을 보여줍니다.
도입 판단의 기준은 벤치마크보다 운영성이다
Fugu 같은 오케스트레이터를 볼 때 단순 성능 점수만으로 판단하면 부족합니다. 실제 도입에서는 다음 질문이 더 중요해질 수 있습니다.
요청당 지연시간은 예측 가능한가?
여러 모델 호출로 인한 비용 구조는 관리 가능한가?
특정 모델을 제외하거나 우선순위를 조정할 수 있는가?
장애가 났을 때 다른 모델로 우회할 수 있는가?
데이터 정책과 보안 요구사항에 맞게 운영할 수 있는가?
특히 Fugu는 단일 프런티어 모델을 직접 호출하는 것과 비슷한 지연시간을 목표로 설계됐고, Fugu-Ultra는 더 복잡한 에이전트 워크플로로 품질을 높이는 방향을 택합니다.3 따라서 사용자는 “가장 좋은 모델 하나”를 고르는 대신, 업무별로 속도와 품질의 균형을 어떻게 잡을지 판단해야 합니다.
Fugu가 보여주는 다음 경쟁 축
Sakana AI는 2023년 도쿄에서 전 Google 연구원 Llion Jones와 David Ha가 설립한 스타트업입니다. Fugu는 이 회사가 제시하는 중요한 방향성을 잘 보여줍니다. 앞으로의 AI 성능은 단일 모델의 크기나 점수만이 아니라, 여러 모델을 언제, 어떻게, 어떤 순서로 조합하느냐에서도 나올 수 있습니다.
Nemotron 통합은 그 가설을 실전에서 검증하는 다음 단계입니다. 오픈 모델이 독립 실행형 모델을 넘어, 멀티 에이전트 시스템 안의 전문 구성원으로 자리 잡을 수 있는지 확인하는 사례가 될 것입니다.
1Sakana AI Teams With NVIDIA to Advance Open Model Innovation from Japan
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.