Laguna XS.2 해커톤의 의미는 우승팀 명단보다 참가자들이 무엇을 고쳤는지에 있다. 이 해커톤은 완성된 API 위에 앱을 얹는 행사가 아니라, 모델을 더 작게 만들고, 더 빠르게 실행하고, 새로운 입력을 붙이고, 특정 작업에 맞게 바꾸는 실험의 장에 가까웠다.
그 출발점이 된 Laguna XS.2는 장기 작업형 코딩 에이전트를 위해 설계된 Mixture-of-Experts 기반 파운데이션 모델이다. 전체 334억 파라미터 중 토큰당 30억 파라미터만 활성화된다.1 큰 모델의 능력을 유지하면서도 매 토큰마다 일부 전문가만 사용하는 구조로 효율을 노린 셈이다. 상위 모델인 Laguna M.1은 총 2,258억 파라미터와 토큰당 234억 활성 파라미터를 갖는다.1
해커톤의 핵심: 모델을 직접 다룰 수 있었는가
Laguna XS.2가 해커톤 주제로 적합했던 가장 큰 이유는 공개 방식이다. XS.2의 가중치는 Apache 2.0 라이선스로 공개됐다.1 참가자들은 단순히 프롬프트를 조정하거나 API를 호출하는 데서 멈추지 않고, 파인튜닝, 양자화, 추론 최적화, 강화학습 환경 설계 같은 더 깊은 수준의 실험을 시도할 수 있었다.
Poolside가 제시한 방향도 분명했다. 이 행사는 일반적인 앱 개발 대회라기보다, 경제적으로 가치 있는 작업이나 연구 워크플로에서 Laguna XS.2를 의미 있게 개선하는 것을 목표로 했다.2 즉 평가의 초점은 “무엇을 만들었는가”뿐 아니라 “모델의 어떤 병목을 줄였는가”에 있었다.
수상작이 보여준 세 가지 개선 방향
약 30개 팀이 참가했고, 1위는 Overthinking Machines Labs, 2위는 Coding Kernels by the Pool, 3위는 attnvq가 차지했다.3 수상작들이 흥미로운 이유는 각기 다른 층위의 문제를 겨냥했기 때문이다.
1위 팀은 텍스트 모델과의 상호작용을 더 자연스럽게 만드는 방향을 택했다. 2위 팀은 Laguna XS.2를 약 3B급 dense 모델로 증류해 PyTorch에서 CUDA 커널을 생성하는 실험을 했다.3 이는 큰 모델의 지식을 더 작은 모델로 옮겨 실행 비용과 활용성을 개선하려는 접근이다.
3위 팀은 추론 효율에 초점을 맞췄다. attnvq는 KV 캐시를 더 효율적으로 다루기 위한 attention-aware product vector quantization을 제안했다.3 긴 문맥과 반복 추론이 중요한 코딩 에이전트에서는 이런 메모리·속도 최적화가 실제 사용성을 크게 좌우한다.
별도로 언급된 Laguna Vision도 같은 맥락에서 볼 수 있다. 이 프로젝트는 SigLIP 비전 인코더, 리샘플러, LoRA 어댑터를 붙여 Laguna XS.2에 시각 입력 경로를 더했고, 30만 개 예제로 학습했다.3 오픈 가중치 코딩 모델이 텍스트 기반 도구를 넘어 멀티모달 실험의 기반이 될 수 있음을 보여준 사례다.
성능표보다 중요한 것은 개선 가능한 구조
Laguna XS.2 해커톤에서 눈여겨볼 점은 개별 결과물만이 아니다. 더 중요한 것은 모델을 개선하고 검증하는 과정이 얼마나 재현 가능하게 설계됐는가다.
Laguna M.1과 XS.2는 내부 Model Factory에서 처음부터 엔드투엔드로 학습됐다. Model Factory는 버전 관리된 데이터, 학습, 평가, 추론 구성요소를 통합한 모델 개발 스택이다.1 두 모델은 SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro, Terminal-Bench 2.0에서 평가됐다.1 이는 모델 성능을 단일 점수로만 보는 것이 아니라, 데이터·학습·평가·배포까지 이어지는 반복 가능한 공정으로 다루겠다는 방향을 보여준다.
공개 이후의 반응도 이 흐름을 뒷받침한다. Laguna M.1과 XS.2는 공개 후 4주 동안 1조 개 이상의 토큰을 처리했고, XS.2 가중치는 Hugging Face에서 5만 회 이상 다운로드됐다.4 이후 커뮤니티 피드백을 반영해 두 모델은 256K 컨텍스트를 지원하도록 업데이트됐다.4 오픈 가중치 모델이 실제 사용과 피드백을 통해 빠르게 개선되는 사례로 볼 수 있다.
우리가 가져갈 실전 교훈
Laguna XS.2 해커톤이 보여준 결론은 단순하다. 앞으로의 AI 프로젝트 경쟁력은 “프롬프트를 잘 쓰는 능력”만으로 결정되지 않는다. 모델을 줄이고, 특정 작업에 맞게 조정하고, 평가 환경을 만들고, 추론 비용을 낮추는 역량이 점점 더 중요해진다.
특히 코딩 에이전트처럼 긴 문맥, 반복 실행, 도구 사용, 배포 비용이 모두 중요한 영역에서는 모델 자체를 이해하고 개선하는 팀이 더 큰 차이를 만든다. Laguna XS.2 해커톤은 그 변화의 축이 API 활용에서 모델 엔지니어링으로 이동하고 있음을 보여준 사례다.
1Laguna M.1/XS.2 Technical Report
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.