9부 45장. 프런티어 모델, 소형 모델, 오픈 모델의 차이

AI 모델 이야기를 들을 때 사람들은 자주 이렇게 묻는다. "그래서 지금 제일 좋은 모델이 뭔가요?"

하지만 이 질문은 반쯤만 맞다. 모델을 고르는 일은 맛집 순위표를 보는 일이 아니라, 공구함에서 도구를 고르는 일에 더 가깝다. 망치가 최고인지, 드라이버가 최고인지 따지는 건 별로 의미가 없다. 무엇을 박을지, 무엇을 조일지부터 알아야 하기 때문이다.

프런티어 모델, 소형 모델, 오픈 모델도 마찬가지다. 이 셋은 단순한 서열이 아니라 서로 다른 성격을 가리키는 말이다. 프런티어 모델은 현재 시점의 최고 수준 범용 성능을 뜻하고, 소형 모델은 가볍고 빠르게 돌릴 수 있는 운영 특성을 뜻하며, 오픈 모델은 얼마나 직접 통제하고 배포할 수 있는지를 뜻한다.¹

이 장의 목표는 간단하다. 모델 이름을 외우는 사람이 아니라, 모델 계열의 성격을 보고 고를 줄 아는 사람이 되는 것이다.

먼저 알아둘 것: 이 셋은 같은 축이 아니다

많은 초보자는 프런티어, 소형, 오픈을 한 줄에 놓고 비교한다. 하지만 사실은 비교 기준이 다르다.

프런티어 모델은 "얼마나 앞선 성능인가"에 대한 말이다. 소형 모델은 "얼마나 가볍고 빠르게 돌릴 수 있는가"에 대한 말이다. 오픈 모델은 "내가 직접 내려받아 운영하고 수정할 수 있는가"에 대한 말이다.

그래서 어떤 모델은 프런티어이면서 닫혀 있을 수 있고, 어떤 모델은 소형이면서 오픈일 수 있다. 또 어떤 모델은 꽤 강력한 성능을 내면서도 오픈 계열에 속할 수 있다. 이걸 머릿속에 넣는 순간, 모델 시장이 훨씬 덜 복잡해진다.

쉽게 말해 보자.

이 표를 기억하면 모델 선택이 한결 쉬워진다. 이제부터는 각 계열을 하나씩 보자.

프런티어 모델: 낯선 문제에 강한 선수

프런티어 모델은 그 시점에서 가장 앞선 범용 성능을 보이는 모델들이다. 여러 작업을 두루 잘하고, 복잡한 추론이나 긴 문맥 처리, 멀티모달 작업, 에이전트형 워크플로에서 특히 강점을 보인다.¹

이 계열의 가장 큰 장점은 "애매한 상황에서 버티는 힘"이다. 사용자의 지시가 조금 모호해도 의도를 추정하고, 여러 후보를 비교하고, 길고 복잡한 문서를 한꺼번에 다루는 능력이 상대적으로 좋다. 처음 다루는 문제, 예외가 많은 문제, 사람도 설명하기 어려운 문제에서는 이런 차이가 크게 난다.

예를 들어, 새 사업 아이디어를 검토하며 시장 정보와 경쟁사 문서, 내부 메모를 함께 읽고 논리를 짜야 한다면 프런티어 모델이 유리하다. 코드베이스 전체를 훑으며 구조를 파악하고, 테스트 전략까지 제안해야 하는 작업도 그렇다. 즉, 일이 복잡하고 낯설수록 프런티어 모델의 값이 올라간다.

하지만 대가도 있다. 대체로 비싸고, 응답이 느릴 수 있으며, 외부 API에 의존하는 경우가 많다. 또 민감한 데이터를 다룰 때는 법무, 보안, 정책 검토가 필요해진다. 최고 성능은 달콤하지만, 공짜는 아니다.

흥미로운 점은 최근 흐름이 무조건 더 큰 모델만 향하지는 않는다는 것이다. Omdia에 따르면 프런티어 모델의 파라미터 성장 속도는 과거보다 크게 둔화되었고, 대신 소형과 중형 모델의 성능과 활용이 빠르게 올라오고 있다. 특히 에이전트의 확산으로 도구 사용과 긴 컨텍스트 관리가 중요해지면서, 성능 향상의 원천이 단순한 거대화에서 시스템 설계로 이동하고 있다.²

즉, 프런티어 모델은 여전히 중요하지만, "제일 큰 모델이 곧 정답"이라는 시대는 조금씩 지나가고 있다.

소형 모델: 많이, 자주, 빠르게 돌릴 때 강하다

소형 모델의 매력은 아주 현실적이다. 빠르고, 싸고, 배치하기 쉽다. 모바일 기기, 로컬 PC, 사내 서버, 엣지 환경처럼 자원이 제한된 곳에서도 쓸 수 있다. 반복 작업이나 대량 처리에서는 이 장점이 엄청나게 크게 느껴진다.

과거에는 소형 모델이라고 하면 아주 작은 규모를 떠올렸지만, 그 기준 자체가 바뀌고 있다. 최근에는 7B에서 14B 정도의 모델이 실무에서 "작고 실용적인 모델"로 취급되는 경우가 늘고 있고, 중간 규모의 오픈 계열 모델도 빠르게 존재감을 키우고 있다.²

왜 그럴까. 이유는 간단하다. 많은 업무가 사실은 세계 최고 지능을 필요로 하지 않기 때문이다. 문서 분류, 회의록 요약, 정해진 형식의 추출, 사내 용어에 맞춘 응답, 반복적인 질의응답 같은 일은 잘 다듬은 소형 모델이 훨씬 경제적으로 처리할 수 있다. Mistral 쪽 설명처럼, 실제 기업 현장에서는 큰 닫힌 모델로 시작했다가 비용과 속도 문제를 겪고, 결국 더 작은 모델을 미세 조정해 배포하는 경우가 많다.³

소형 모델은 특히 세 가지 상황에서 빛난다.

• 요청량이 많아 토큰 비용이 금방 커지는 서비스

• 응답 속도가 중요한 실시간 기능

• 인터넷 연결이 불안정하거나 로컬 실행이 필요한 환경

물론 약점도 분명하다. 애매한 요청, 긴 연쇄 추론, 낯선 문제, 예외 처리, 폭넓은 상식이 필요한 상황에서는 성능이 갑자기 무너질 수 있다. 그래서 소형 모델은 "못하는 모델"이 아니라 "잘할 일을 정해 주면 아주 효율적인 모델"이라고 이해하는 편이 맞다.

작게 말해도 똑똑해야 한다. 그래서 소형 모델을 잘 쓰는 핵심은 모델 자체보다도 작업을 잘 쪼개고, 컨텍스트를 정리하고, 필요한 형식과 예시를 분명하게 주는 데 있다. 앞부분에서 다뤘던 프롬프트와 워크플로의 중요성이 여기서 다시 살아난다.

오픈 모델: 성능보다 통제권의 문제

오픈 모델은 성능 서열을 뜻하는 말이 아니다. 통제권의 문제다. 내가 직접 모델을 내려받아 실행할 수 있는지, 사내 환경에서 돌릴 수 있는지, 특정 업무에 맞게 튜닝할 수 있는지, 비용 구조를 내 쪽에서 설계할 수 있는지가 핵심이다.⁴

이 계열의 장점은 분명하다. 우선 프라이버시와 데이터 통제가 좋다. 외부 API로 모든 입력을 보내지 않아도 된다. 두 번째로, 커스터마이징이 쉽다. 특정 용어, 특정 형식, 특정 업무 규칙에 맞게 조정하기 좋다. 세 번째로, 대량 처리에서 비용 예측이 쉬워진다. 토큰당 과금 대신 내 인프라 비용을 기준으로 계산할 수 있기 때문이다.⁴

하지만 오픈 모델은 '자유'와 함께 '책임'도 가져온다. 설치, 추론 서버 운영, 속도 최적화, GPU 관리, 모니터링, 버전 관리, 장애 대응을 직접 해야 한다. 즉, 오픈 모델은 모델만 고르면 끝나는 세계가 아니라 시스템을 같이 설계해야 하는 세계다.

또 하나 중요한 점은, 사람들이 흔히 말하는 오픈 모델이 모두 똑같이 열려 있는 것은 아니라는 사실이다. 어떤 모델은 가중치만 공개하고, 어떤 모델은 라이선스 제약이 있고, 어떤 모델은 학습 데이터나 전체 코드가 닫혀 있다. 그래서 실무에서는 "오픈"이라는 말을 들으면 먼저 공개 범위와 사용 조건을 확인해야 한다.

그래서 셋은 어떻게 겹치는가

이제 가장 중요한 그림을 보자. 프런티어, 소형, 오픈은 서로 배타적인 분류가 아니다.

닫힌 프런티어 모델은 현재 가장 흔한 최고 성능 계열이다. 오픈 소형 모델은 로컬 실행과 반복 업무 자동화에 매우 잘 맞는다. 그리고 그 사이에는 점점 커지는 회색 지대가 있다. 성능이 많이 따라온 중형 오픈 모델들이다.

시장도 이 방향으로 움직이고 있다. CB Insights는 기업 시장이 점점 두 층으로 갈라지고 있다고 본다. 가장 어려운 작업에는 닫힌 프런티어 모델이 쓰이고, 엣지 환경이나 특화 업무, 비용 민감한 배치에는 더 작은 오픈 계열 모델이 확산된다는 것이다.⁵ Omdia 역시 중간 규모 모델이 에이전트 조정자 역할과 멀티모달 활용에서 존재감을 키우고 있다고 본다.²

이 말은 곧, 앞으로의 실전 AI 활용은 "하나의 슈퍼 모델을 모든 일에 쓰는 방식"이 아니라 "작업별로 다른 계열을 섞어 쓰는 방식"에 가까워진다는 뜻이다. NVIDIA가 설명하듯 실제 시스템에서는 라우터가 요청을 분류해 간단한 일은 가벼운 모델에게 보내고, 복잡한 일만 더 강한 모델로 넘기는 구조가 점점 중요해지고 있다.¹

한마디로 정리하면 이렇다.

프런티어 모델은 정면 돌파에 강하고, 소형 모델은 대량 실전에 강하며, 오픈 모델은 주도권 확보에 강하다.

어떤 상황에서 무엇을 먼저 고를까

이제 실전 기준으로 바꿔 보자. 모델 이름 대신 상황을 먼저 보면 선택이 쉬워진다.

이 표를 볼 때 한 가지를 더 기억하자. 좋은 선택은 "가장 강한 모델"이 아니라 "내 작업에서 실패 비용이 가장 낮은 조합"이다.

예를 들어 블로그 초안 100개를 분류하는 작업에 프런티어 모델만 쓰면 품질은 좋을 수 있다. 하지만 너무 느리고 비쌀 수 있다. 반대로 신규 전략 문서를 한 번 작성하는데 가장 작은 모델을 쓰면 싸고 빠를 수는 있어도, 엉뚱한 방향으로 틀어질 위험이 커진다. 결국 모델 선택은 지능의 문제가 아니라 경제성과 위험 관리의 문제이기도 하다.

리더보드는 참고하되, 신앙처럼 믿지 말 것

모델 선택에서 가장 흔한 실수는 리더보드 1위만 보는 것이다. 하지만 최근 리더보드를 보면 이미 답이 나와 있다. 최고 지능 점수를 받는 모델과, 가장 빠른 모델, 가장 싼 모델, 가장 긴 컨텍스트를 지원하는 모델이 서로 다르다.⁶

이 말은 아주 중요하다. "최고의 모델"은 하나가 아니라, "어떤 기준에서 최고인가"가 여러 개라는 뜻이다.

Artificial Analysis 같은 리더보드는 지능, 가격, 속도, 첫 토큰 지연, 컨텍스트 길이 등을 따로 보여 준다. 이건 단순한 편의 기능이 아니다. 이제 모델 비교는 단일 점수 경쟁이 아니라 다차원 비교라는 뜻이다.⁶

그래서 리더보드를 볼 때는 이런 질문을 같이 던져야 한다.

• 내 작업은 지능이 중요한가, 속도가 중요한가

• 응답 하나의 품질이 중요한가, 전체 처리량이 중요한가

• 긴 문맥이 필요한가, 짧고 빠른 회전이 필요한가

• API 비용이 핵심인가, 운영 통제권이 핵심인가

리더보드는 출발점일 뿐, 답안지가 아니다.

모델 이름보다 계열 감각이 오래 간다

모델 이름은 아주 빠르게 바뀐다. 이번 달의 최고 모델이 다음 달엔 평범해질 수 있다. 하지만 계열의 성격은 훨씬 천천히 바뀐다.

프런티어 모델은 여전히 복잡한 문제 해결의 선두에 있다. 소형 모델은 점점 더 많은 실무를 먹어 치우고 있다. 오픈 모델은 비용, 프라이버시, 커스터마이징의 요구가 커질수록 더 중요해진다.

그러니 앞으로 모델을 고를 때는 이렇게 생각하면 된다.

먼저 작업의 성격을 본다. 그다음 실패 비용을 본다. 그다음 속도와 예산을 본다. 마지막으로 통제권이 얼마나 필요한지 본다.

이 순서로 생각하면, 유행하는 모델 이름에 덜 휘둘리게 된다. 그리고 바로 그 지점부터, 당신은 AI를 소비하는 사람이 아니라 설계하는 사람이 된다.

참고

¹What Are Frontier AI Models and How They Work | NVIDIA Glossary

²Frontier AI model growth slows as "small" models scale up and reshape infrastructure demand

³Mistral closes in on Big AI rivals with new open-weight frontier and small models

⁴The LLM Landscape: Frontier vs Open Source Models and Training Variants Explained

⁵The foundation model divide: Mapping the future of open vs. closed AI development

⁶LLM Leaderboard - Comparison of over 100 AI models from OpenAI, Google, DeepSeek & others