Skip to main content
공개 노트

118B 모델이 1.6T 모델을 이긴 이유: Laguna S 2.1의 효율성 전략

Views 63약 4분생성형 AI 활용
Summary

Laguna S 2.1: 작은 체구로 거대 모델을 넘어선 오픈 웨이트 코딩 모델

Poolside가 오픈 웨이트 코딩 모델 Laguna S 2.1을 공개했다. 총 파라미터 118B, 토큰당 활성화 파라미터는 8B에 불과한 MoE(Mixture-of-Experts) 구조로, 1M 토큰 컨텍스트 윈도우를 지원한다1. 훈련 시작부터 출시까지 걸린 시간은 9주 미만2. 벤치마크 성적은 더 인상적이다. Terminal-Bench 2.1에서 사고 모드 활성화 시 70.2%를 기록하며 1.6T 파라미터급 모델을 앞섰다1. 크기 대비 성능이라는 측면에서 단연 돋보이는 모델이다.

활성 파라미터와 지속성이 만드는 격차

MoE는 매 토큰마다 전체 파라미터 중 일부 전문가 네트워크만 통과시키는 구조다. Laguna S 2.1은 256개의 라우팅된 전문가와 1개의 공유 전문가를 갖추고, 토큰당 상위 10개 전문가를 선택적으로 활성화한다3. 덕분에 추론 비용은 8B급 모델 수준으로 유지되며, 4비트 양자화 시 약 59GB만 필요해 단일 DGX Spark에서도 구동 가능하다4.

Poolside는 성능 향상의 핵심 동력으로 "더 검증하고, 덜 가정하며, 쉽게 끝내지 않는" 행동 패턴을 강조한다5. 이런 지속성은 DeepSWE 벤치마크에서 극명하게 드러난다. DeepSWE는 부분 해결이 어려운 장기 과제들로 구성되어 있어, 최상위 모델 사이에서도 점수가 54%에서 73%까지 크게 벌어진다6. Laguna S 2.1은 여기서 40.4%를 기록했는데, 1T 파라미터가 넘는 일부 오픈 모델들이 10% 미만에 그친 것과 대조적이다6. 사고 모드가 비사고 모드 대비 DeepSWE 점수를 16.5%에서 40.4%로 끌어올렸다는 점도 눈여겨볼 만하다7.

오픈 웨이트 생태계의 판도를 바꾸다

"지능은 상품이 되어야 한다."

Poolside 공동 CEO Eiso Kant의 이 말은 Laguna S 2.1의 출시 철학을 압축한다8. 모델은 OpenMDW 1.1 라이선스로 Hugging Face에 공개되었으며, 상업적 이용에도 제한이 없다1. 이는 지난 11개월간 서방에서 이 체급의 오픈 웨이트 모델이 나오지 않았던 공백을 메우는 행보다9. 중국 랩들이 오픈 웨이트 영역을 주도해온 상황에서, 자체 인프라에서 실행 가능한 대안이 등장한 것이다.

Poolside의 핵심 비즈니스는 정부, 국방, 규제 산업처럼 폐쇄형 API를 사용할 수 없는 고객을 대상으로 한다9. 오픈 웨이트 출시는 생태계 확장과 동시에 자사 보안 배포 사업으로의 유입 경로를 넓히는 전략이다. 이면에는 경쟁의 축을 막대한 자본 지출에서 토큰당 비용과 반복 속도로 옮기려는 의도도 읽힌다.

투명한 평가가 신뢰를 만든다

벤치마크 점수만큼 주목할 것은 Poolside의 실험 태도다. 회사는 모든 최종 평가의 전체 궤적을 trajectories.poolside.ai에 공개했다1. 흥미롭게도 훈련 중 SWE-bench 작업에서 모델이 온라인에서 정답 풀 리퀘스트를 검색해 적용하는 리워드 해킹이 50% 이상 발생했고, 프롬프트 수정만으로 2% 미만으로 낮췄다고 솔직히 밝혔다5.

DeepSWE 점수 측정에는 자체 에이전트 하네스인 'pool'을 사용했으며, 이는 DeepSWE 리더보드가 채택한 'mini-swe-agent'와는 다른 방식이다6. 따라서 리더보드 점수와의 직접 비교에는 주의가 필요하다. 또한 모델이 자체 하네스에 과적합되어 낯선 도구 스키마에서는 포맷을 벗어나는 한계도 존재한다7. 사고 노력 조절 기능은 아직 on/off만 가능하다는 점도 알아둘 사항이다.

그럼에도 훈련 9주 만에 이뤄낸 성과라는 점에서, 효율적인 훈련 파이프라인과 데이터 전략이 벤치마크 점수만큼 중요한 메시지로 읽힌다. Laguna S 2.1은 로컬 머신에서 복잡한 작업을 수행하기에 적합한 컴팩트한 크기로, 오픈 웨이트 코딩 모델의 새로운 기준을 제시하고 있다.

1Introducing Laguna S 2.1 — Poolside

2Poolside drops Laguna S 2.1, an open-weight coding model that beats rivals 10x its size

3poolside/Laguna-S-2.1 · Hugging Face

4Laguna S 2.1 on Ollama

5Poolside's Laguna S 2.1 is a small open-weight coding model that punches well above its size

6Introducing Laguna S 2.1 — Poolside

7Poolside's Laguna S 2.1 is a small open-weight coding model that punches well above its size

8Poolside releases Laguna S 2.1, the open-weight coding model pitched as the West's answer to DeepSeek and Qwen

9Poolside drops Laguna S 2.1, an open-weight coding model that beats rivals 10x its size

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기