온디바이스 AI 시장은 지금 모순적인 요구에 직면해 있다. 개인정보 보호와 실시간 응답성을 위해 클라우드가 아닌 기기 내에서 모델을 돌려야 하지만, 하드웨어 제약 때문에 덩치를 키울 수도 없다. 업계는 대부분 두 가지 길을 걸어왔다. 하나는 모델 크기를 줄이되 성능 저하를 감수하는 방식, 다른 하나는 경량화된 추론 전용 칩에 의존하는 방식이다. 그런데 최근 공개된 LFM2.5-VL-3B는 이 이분법을 다른 각도에서 비틀고 있다. 작게 만들고도 성능을 끌어올리는 비결을 '사고하지 않는 전략'과 '데이터 품질'에서 찾은 것이다.
엣지 AI가 직면한 설계의 역설
일반적으로 언어 모델의 성능을 높이려면 파라미터를 늘리거나 추론 체인을 길게 가져가는 방법을 택한다. 하지만 두 접근 모두 지연 시간과 메모리 사용량을 증가시킨다. 스마트폰, 노트북, 차량용 임베디드 시스템처럼 응답 속도에 민감한 환경에서는 치명적이다. 게다가 사용자 데이터가 기기 밖으로 나가지 않아야 한다는 규제 압박도 커지고 있다.
Liquid AI는 이 문제를 정면으로 돌파하지 않고 우회했다. 이 회사가 내놓은 LFM2.5-VL-3B는 비추론(non-reasoning) 모델로 설계되었다. 질문을 받으면 복잡한 연쇄 추론 없이 곧바로 답을 생성하는 구조다. 추론 과정을 생략해 지연 시간을 낮추면서도, 그 빈자리를 고품질 사전 학습 데이터와 정교한 사후 훈련으로 메운다는 발상이다.
기술적 뼈대: 속도와 정밀도를 동시에 잡는 조합
이 모델은 SigLIP2 400M NaFlex 비전 인코더와 LFM2.5-2.6B 텍스트 백본을 결합했다. 약 3GB 메모리에 들어가는 경량 패키지이지만, 비전 사전 학습에 사용된 토큰 규모를 이전 세대 대비 4배로 늘렸다. 여기에 합성 이미지-캡션, OCR, 그라운딩, 지시 따르기 데이터를 체계적으로 혼합해 입력 신호의 품질을 높였다. 이런 정성적 개선이 수치로도 증명되었는데, RefCOCO 정밀도@1 점수는 57.1에서 87.9로 무려 30포인트 가까이 도약했다.
속도 측면에서도 흥미로운 수치가 확인된다. Apple M5 Max에서는 초당 228토큰, AMD Ryzen AI Max+ 395에서는 116토큰의 디코딩 속도를 보였다. H100 GPU에서 동시성을 높일 경우 출력 처리량은 초당 약 11K 토큰까지 올라간다. Galaxy S26 Ultra 같은 모바일 기기에서도 초당 20토큰을 처리해, 온디바이스 환경에서 실시간 시각 질의응답이 가능함을 입증했다. 사전 학습에는 약 34T 토큰이 쓰였고 어휘 크기는 128K로 확장되었으며, 이 모델은 2026년 8월 Liquid AI 블로그를 통해 Hugging Face에 공개되었다.
시각 인식을 넘어서: 화면 해석과 도구 실행
LFM2.5-VL-3B의 진정한 차별점은 단순한 이미지 인식에 머물지 않는다는 점이다. 특히 스크린 이해 능력은 ScreenSpot-v2 평균 80.7점을 기록해 Gemma-4-E4B(51.2점)나 Qwen 3.5 4B(78.5점)처럼 파라미터가 더 큰 모델들을 상당한 차이로 앞섰다. 웹페이지나 앱 UI에서 버튼, 입력창, 메뉴 같은 요소를 정확히 식별하고 의미를 파악하는 능력에 특화되어 있다는 뜻이다.
여기에 더해 이번 버전에서는 함수 호출 기능이 처음 도입되며 점수대가 크게 뛰었다. ToolSandbox 점수는 26.4에서 59.5로 두 배 이상 상승했고, BFCL v4 점수는 20.5에서 32.5로 향상되었다. 이미지에서 객체를 인식한 뒤 자동으로 외부 API를 호출해 관련 정보를 가져오거나 액션을 실행하는 시나리오로 직결된다. 시각 인식과 도구 실행 간의 마찰을 획기적으로 줄인 셈이다.
훈련 전략이 시사하는 것: 작은 모델도 똑똑해질 수 있다
주목할 점은 이런 성능 향상의 상당 부분이 사후 학습 파이프라인에서 비롯되었다는 사실이다. 대형 교사 모델로부터 지식을 증류하고 Antidoom 훈련을 포함한 지도 미세 조정(SFT)을 적용한 뒤, 다중 보상 강화 학습(RL)로 정책을 정교하게 다듬는 방식이다. 단순히 파라미터를 늘리지 않고도, 훈련 신호의 밀도와 다양성을 높이면 모델 품질을 크게 개선할 수 있다는 실증 사례라 할 수 있다.
이러한 접근은 문서 구조를 한 번에 분석하거나 여러 이미지 사이의 관계를 추론하는 등 복합적인 작업에서 경쟁 모델을 앞서는 데 결정적인 역할을 했다고 Liquid AI는 설명한다. 실제로 모델은 Hugging Face에 공개되어 있으며, llama.cpp, MLX, vLLM 등을 통해 바로 배포할 수 있다.
앞으로 지켜봐야 할 지점
LFM2.5-VL-3B의 등장은 작은 모델도 큰 모델에 버금가는 성능을 낼 수 있는 조건이 무엇인지 다시 정의하게 만든다. 관건은 파라미터 수가 아니라, 얼마나 정제된 데이터를 얼마나 효율적으로 학습시키고, 실사용 환경의 지연 시간 제약을 어느 정도로 통제할 수 있느냐다. 이 모델이 비추론 전략을 고수한 결과인 만큼, 복잡한 다단계 추론이 필요한 영역에서는 한계를 보일 가능성도 열어둘 필요가 있다. 다만 현실 세계의 온디바이스 애플리케이션 대부분이 복잡한 추론보다는 빠르고 정확한 인지와 실행에 더 무게를 둔다면, 이 모델이 제시한 방향성은 상당 기간 유효하게 작동할 공산이 크다. 이후 등장할 엣지 특화 모델들이 이 접근법을 어떻게 변주하는가가 관전 포인트가 될 것이다.
1LFM2.5-VL-3B: A Better and Faster Vision-Language Model for the Edge
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.