AI 제품을 만드는 팀에게 이제 어려운 질문은 "가장 똑똑한 모델이 무엇인가"가 아닙니다. 더 현실적인 질문은 "이 모델을 매일, 수천 번, 손해 보지 않고 돌릴 수 있는가"입니다.
Baidu의 ERNIE 5.1은 이 질문에 정면으로 걸려 있습니다. Baidu는 ERNIE 5.1이 ERNIE 5.0의 지식을 계승하면서 총 파라미터를 약 3분의 1, 활성 파라미터를 약 절반으로 줄였고, 동급 모델 대비 사전학습 비용을 약 6% 수준으로 낮췄다고 설명합니다1. The Decoder도 이를 "사전학습 비용 94% 절감"이라는 관점에서 다뤘습니다2. 핵심은 단순히 또 하나의 리더보드 모델이 나왔다는 사실이 아니라, 고성능 AI의 경쟁 축이 '최대 성능'에서 '반복 사용 가능한 비용 구조'로 이동하고 있다는 점입니다.
ERNIE 5.1의 진짜 메시지는 '성능'보다 '배포 경제성'이다
Baidu가 내세우는 기술적 포인트는 Once-for-All 방식의 다차원 탄력 사전학습입니다. 쉽게 말하면, 모델 크기별로 따로 학습하는 대신 ERNIE 5.0 학습 과정에서 여러 깊이, 폭, 희소성 조합의 하위 모델을 함께 최적화하고, 그중 효율적인 구조를 ERNIE 5.1로 뽑아낸 방식입니다1.
이 접근은 AI 개발의 비용 구조를 바꿀 가능성이 있습니다. 기존에는 새 모델이나 경량 모델을 만들 때 대규모 학습을 반복해야 했습니다. Baidu의 설명이 맞다면, 한 번의 큰 학습에서 여러 배포 후보를 확보하고 이후 선택·보강하는 식으로 실험 속도를 높일 수 있습니다.
제품팀 입장에서 중요한 지점은 여기에 있습니다. 검색형 챗봇, 고객지원 에이전트, 문서 요약, 사내 지식 검색처럼 호출량이 많은 서비스에서는 벤치마크 1~2점보다 토큰당 비용, 지연시간, 실패율이 더 직접적인 손익 변수입니다. ERNIE 5.1은 "최고 성능 모델만이 답인가"라는 가정에 균열을 냅니다.
검색과 에이전트에서는 테스트해볼 이유가 있다
ERNIE 5.1이 가장 눈에 띄는 영역은 검색입니다. Baidu는 ERNIE 5.1이 LMArena Search Arena에서 1,223점을 기록해 글로벌 4위, 중국 모델 중 1위에 올랐다고 밝혔습니다1. 이는 Baidu가 오랫동안 검색 인프라를 운영해온 회사라는 점과 맞물립니다. 단순 언어모델 성능이 아니라, 검색 결과를 찾고, 고르고, 근거와 함께 답변으로 합성하는 능력이 강점으로 보입니다.
보고된 벤치마크도 비슷한 방향을 가리킵니다. Baidu는 ERNIE 5.1이 τ³-bench와 SpreadsheetBench-Verified 같은 에이전트 평가에서 DeepSeek-V4-Pro를 앞섰고, AIME26 도구 사용 수학 평가에서는 99.6점을 기록했다고 주장합니다1. 다만 이 중 상당수는 Baidu가 공개한 자체 비교 결과이므로, 독립 검증된 리더보드 결과와 같은 무게로 받아들이면 안 됩니다.
실무적으로는 이렇게 보는 편이 안전합니다. 중국어 검색, 중국 내 웹·문서 기반 질의응답, Baidu 생태계와 연결된 서비스라면 ERNIE 5.1은 충분히 PoC 후보가 됩니다. 반대로 영어권 범용 지식, 글로벌 SaaS 통합, 복잡한 코딩 에이전트, 다국어 고객지원에서는 OpenAI, Gemini, Claude 등과 동일 조건으로 비교해야 합니다.
싼 사전학습이 곧 싼 운영을 뜻하지는 않는다
가장 조심해야 할 부분은 '사전학습 비용'과 '서비스 운영 비용'을 분리해서 보는 것입니다. Baidu가 말한 6%는 모델을 만드는 비용에 관한 주장입니다. 기업이 실제로 지불하는 비용은 추론 비용, 컨텍스트 길이, 도구 호출 횟수, 검색 API 비용, 캐시 전략, 실패 후 재시도, 사람 검수까지 합쳐집니다.
또한 ERNIE 5.1은 현재 오픈웨이트 모델이 아니라 Baidu의 공식 서비스, AI Studio, Qianfan 플랫폼 등을 통해 접근하는 형태로 알려져 있습니다3. 이는 빠른 도입에는 장점이지만, 자체 호스팅, 데이터 거버넌스, 지역별 규제, 벤더 종속성 측면에서는 제약이 될 수 있습니다.
따라서 "94% 절감"은 흥미로운 신호이지, 구매 결정을 끝내는 숫자는 아닙니다. 모델 개발사 입장에서는 엄청난 효율 개선일 수 있지만, 고객 입장에서는 "내 워크플로에서 완료된 작업 1건당 비용이 얼마인가"가 더 중요합니다.
도입 전에는 모델이 아니라 '작업 단가'를 비교하라
ERNIE 5.1을 검토한다면 리더보드 순위보다 아래 질문이 더 유용합니다.
한국어·영어·중국어 혼합 입력에서 품질 저하가 있는가?
검색 답변이 출처를 정확히 반영하는가, 그럴듯한 합성을 하는가?
에이전트 작업에서 중간 실패 후 복구가 가능한가?
토큰당 비용이 아니라 "완료된 업무 1건당 비용"이 경쟁 모델보다 낮은가?
Baidu 플랫폼 사용이 데이터 보안·규제 요건과 충돌하지 않는가?
장애 시 Claude, Gemini, OpenAI, DeepSeek 등으로 폴백할 수 있는가?
ERNIE 5.1은 "중국 모델이 서구 모델을 따라잡았나"라는 단순 구도로만 볼 제품이 아닙니다. 더 중요한 변화는, 강한 모델을 더 싸게 만들고 더 자주 배포하려는 경쟁이 본격화됐다는 점입니다.
검색 기반 서비스, 중국어권 제품, 고빈도 AI 워크플로를 운영하는 팀이라면 지금 신경 써야 합니다. 다만 판단 기준은 "얼마나 똑똑한가"가 아니라 "우리 업무를 안정적으로, 반복 가능하게, 더 낮은 총비용으로 끝내는가"여야 합니다.
참고
2Baidu's Ernie 5.1 cuts 94 percent of pre-training costs while competing with top models
3Baidu releases Ernie 5.1 with pre-training cost at only 6% of industry peers
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.