LFM2.5-230M: 작은 모델은 이제 '보조 모델'이 아니라 실행 전략이다

AI 모델 선택 기준이 바뀌고 있습니다. 이제는 가장 큰 모델 하나를 고르는 문제만이 아니라, 어디에서, 얼마나 빠르게, 어떤 역할로 실행할 것인가가 중요합니다. Liquid AI가 공개한 LFM2.5-230M은 이 변화를 잘 보여주는 2억 3천만 파라미터 규모의 오픈웨이트 모델입니다.¹

LFM2.5-230M은 무엇인가

LFM2.5-230M은 LFM2 아키텍처를 기반으로 한 경량 파운데이션 모델입니다. 개발자가 파인튜닝해 에이전트형 워크플로에 배포할 수 있는 모델로 소개됐습니다.¹

이 모델의 핵심은 “작은 범용 챗봇”이 아니라 온디바이스 실행을 염두에 둔 실무형 모델이라는 점입니다. Liquid AI는 Galaxy S25 Ultra에서 213 tok/s, Raspberry Pi 5에서 42 tok/s의 디코드 속도를 제시했습니다.¹ 스마트폰, 저가형 보드, 로봇 같은 환경에서도 로컬 추론을 검토할 수 있게 만드는 수치입니다.

왜 작은 모델이 중요한가

작은 모델의 가치는 단순히 비용 절감에 있지 않습니다. 엣지 환경에서는 지연 시간, 네트워크 의존성, 배터리, 장치 성능이 모두 제약 조건이 됩니다. 이런 조건에서는 대형 모델을 매번 호출하는 방식보다, 작은 모델이 현장에서 빠르게 판단하고 필요한 경우에만 더 큰 시스템으로 넘기는 구조가 실용적일 수 있습니다.

LFM2.5-230M은 이런 역할에 맞게 이해하는 편이 자연스럽습니다. 모든 문제를 최고 성능으로 해결하는 모델이라기보다, 반복적인 판단과 구조화 작업을 빠르게 처리하는 실행 계층에 가깝습니다.

학습 방식: 범용 천재보다 적용 가능한 기반 모델

LFM2.5-230M은 19조 토큰으로 사전학습됐고, 사전학습 과정에는 32K 컨텍스트 확장 단계가 포함됐습니다.¹ 이후 후처리 학습은 개발자가 다운스트림 애플리케이션에 맞게 조정할 수 있도록 경량 레시피로 설계됐습니다.¹

후처리 학습은 세 단계로 구성됩니다.

1. LFM2.5-350M에서 증류한 지도 미세조정

2. 직접 선호 최적화(DPO)

3. 멀티도메인 강화학습¹

이 구성은 모델을 특정 폐쇄형 사용 사례에 과도하게 고정하기보다, 개발자가 다시 파인튜닝하고 배포하기 쉬운 출발점으로 만들려는 방향에 가깝습니다.

어디에 적용할 수 있나

LFM2.5-230M은 Hugging Face에서 Base 모델과 후처리 학습된 모델로 제공됩니다.¹ 또한 GGUF는 llama.cpp, MLX는 Apple Silicon, ONNX는 다양한 실행 환경, vLLM과 SGLang은 GPU 서빙에 맞춰 준비돼 있습니다.²

적합한 사용처는 대형 모델을 대체하는 모든 작업이 아니라, 빠르고 반복적인 로컬 판단이 필요한 단계입니다. 예를 들면 다음과 같습니다.

• 문서나 로그에서 필요한 필드를 뽑는 데이터 추출

• 로컬 앱에서 간단한 명령을 분류하는 작업

• 대형 모델 호출 전 요청을 라우팅하는 전처리 계층

• IoT·로봇 환경에서 도구나 스킬을 선택하는 계층

Liquid AI는 Unitree G1 휴머노이드 로봇의 온보드 NVIDIA Jetson Orin에서 LFM2.5-230M을 실행한 사례도 공개했습니다. 이 실험에서는 자연어 명령을 로봇 스킬 호출 순서로 바꾸는 방식으로 모델을 활용했습니다.¹

개발자가 얻을 수 있는 판단 기준

LFM2.5-230M을 볼 때 중요한 질문은 “이 모델이 대형 모델보다 똑똑한가”가 아닙니다. 더 실용적인 질문은 다음에 가깝습니다.

• 이 작업은 장치 안에서 바로 처리해야 하는가?

• 응답 속도가 품질만큼 중요한가?

• 반복적인 분류, 추출, 툴 호출 같은 작업인가?

• 대형 모델을 호출하기 전에 가볍게 판단할 계층이 필요한가?

• 파인튜닝해 특정 워크플로에 맞출 수 있는 작은 모델이 필요한가?

이 질문에 “그렇다”가 많다면 LFM2.5-230M 같은 경량 모델은 검토할 가치가 있습니다.

결론: 작은 모델은 실행 전략이다

LFM2.5-230M은 “작은 ChatGPT”라기보다, 엣지 기기 안에서 빠르게 판단하고 구조화하고 도구를 호출하는 실행용 모델에 가깝습니다. 온디바이스 AI를 설계한다면 먼저 물어볼 것은 모델 크기가 아닙니다.

이 단계에 정말 큰 모델이 필요한가.

LFM2.5-230M의 의미는 바로 그 질문을 현실적인 설계 기준으로 바꿔준다는 데 있습니다.

¹LFM2.5-230M: Built to Run Anywhere

²LiquidAI/LFM2.5-230M · Hugging Face