AI 인프라를 볼 때 이제 질문이 하나 바뀌었습니다. "GPU를 얼마나 많이 확보했는가"만으로는 부족하고, "그 GPU에서 토큰을 얼마나 더 많이 뽑아내는가"가 더 중요한 경쟁력이 되고 있습니다.
이 맥락에서 Nebius의 Eigen AI 인수는 꽤 직접적인 메시지입니다. Nebius는 AI 추론용 칩 성능을 최적화하는 스타트업 Eigen AI를 주식과 현금을 합쳐 약 6억1500만달러에 인수하기로 했습니다.1 단순한 스타트업 M&A라기보다, AI 클라우드 사업자가 하드웨어 임대에서 추론 성능 사업으로 더 깊게 들어간 사건에 가깝습니다.
왜 지금은 'GPU 보유량'보다 '토큰 생산성'인가
확인된 사실부터 보죠. Nebius는 최근 몇 년 사이 AI 클라우드 사업을 빠르게 키웠고, 2025년 매출은 약 5억2980만달러였습니다.2 동시에 Microsoft, Meta와 대규모 AI 인프라 계약을 맺으며 장기 수요를 확보한 상태입니다.34 즉, 이 회사의 당면 과제는 "수요를 어떻게 채울까"이지 "수요가 있나"가 아닙니다.
여기서 Eigen AI가 들어맞습니다. Bloomberg 보도에 따르면 Eigen은 Nvidia 칩으로 추론을 돌릴 때 생성 가능한 토큰 수를 극대화하는 기술을 갖고 있습니다.1 Nebius와 Eigen은 이미 Token Factory라는 관리형 추론 플랫폼에서 협력해 왔고, 양사는 DeepSeek, Llama, Qwen 같은 오픈 모델의 최적화 버전을 함께 개발해 왔습니다.5
이게 중요한 이유는 간단합니다. 추론 시장에서는 같은 GPU 1장을 써도, 더 빠르게 더 많은 토큰을 안정적으로 생성하면 원가 구조가 달라집니다. 고객 입장에서는 지연시간과 비용이 내려가고, 클라우드 사업자 입장에서는 GPU 공급이 빡빡한 상황에서도 실질 용량을 늘린 효과를 냅니다. 새 데이터센터를 짓는 것보다 소프트웨어 최적화가 더 빠른 증설 수단이 될 수 있다는 뜻입니다.
Eigen이 파는 것은 칩이 아니라 병목 해소 기술이다
이 인수를 칩 회사 인수로 보면 포인트를 놓칩니다. Eigen이 다루는 핵심은 모델과 시스템 소프트웨어 최적화입니다. Nebius가 공개한 협력 설명을 보면, 후처리 양자화, 양자화 인식 학습, KV 캐시 최적화, 다중 수준 희소화, speculative decoding, CUDA·Triton 커널 최적화, 연속 배칭 같은 기법이 언급됩니다.5
이건 실무적으로 꽤 익숙한 문제들입니다. 추론 성능은 단순 FLOPS보다 메모리 대역폭, 캐시, 스케줄링, 배칭 효율에 더 자주 막힙니다. AI 추론 칩 분야에서 흔히 말하는 "메모리 월"도 결국 계산보다 데이터 이동이 병목이 되는 현상을 뜻합니다.67 그러니 Eigen의 가치는 "모델을 더 똑똑하게 만든다"기보다 "이미 있는 GPU 자원을 덜 낭비하게 만든다"에 가깝습니다.
특히 오픈소스 대형 모델은 MoE, reasoning, 비전-언어 혼합 구조로 가면서 운영 난도가 올라가고 있습니다. Nebius가 Eigen과 함께 내세운 벤치마크에서는 일부 모델이 초당 수백 토큰, 최고 911 tokens/sec 수준의 출력 속도를 기록했다고 설명합니다.5 이 수치는 마케팅 성격을 감안해 해석해야 하지만, 적어도 경쟁 축이 "모델 제공"에서 "운영 가능한 최적화 구현"으로 옮겨가고 있다는 점은 분명합니다.
Nebius가 진짜로 사고 있는 것은 '풀스택 지배력'이다
Nebius는 원래부터 자신을 단순 GPU 임대 업체가 아니라 하드웨어와 소프트웨어를 함께 묶는 풀스택 AI 인프라 사업자로 포지셔닝해 왔습니다.3 이번 인수는 그 서사를 더 밀어붙이는 움직임입니다.
비교해 보면 차이가 보입니다. CoreWeave 같은 네오클라우드가 대규모 GPU 공급과 고객 계약으로 성장했다면, Nebius는 여기에 Token Factory 같은 관리형 추론 계층을 얹고 있습니다.4 즉 "칩을 빌려준다"보다 "바로 서비스 가능한 추론 환경을 판다" 쪽입니다. Eigen을 품으면 이 계층의 차별화가 더 쉬워집니다.
다만 반론도 있습니다. 최적화 기술은 강력하지만, 그것만으로 데이터센터 증설의 물리적 제약이 사라지지는 않습니다. Nebius는 여전히 대규모 설비 투자, Nvidia 칩 공급, 특정 대형 고객 의존도라는 리스크를 안고 있습니다.34 또 Eigen은 20명 규모의 작은 팀으로 알려져 있어, 인수 후 기술 내재화와 조직 확장이 실제 성과로 이어질지는 지켜봐야 합니다.8
그래서 이번 딜을 과대평가할 필요는 없습니다. 하지만 과소평가해서도 안 됩니다. AI 인프라 시장의 다음 경쟁은 "누가 더 많은 GPU를 샀나"가 아니라 "누가 같은 GPU로 더 싼 비용에 더 높은 품질의 추론을 제공하나"가 될 가능성이 크기 때문입니다.
지금 이 변화를 가장 유심히 봐야 할 사람은 세 부류입니다. 오픈모델을 운영 중인 제품팀, GPU 비용이 손익에 직결되는 AI 서비스 사업자, 그리고 클라우드 벤더를 평가해야 하는 CTO입니다. 앞으로의 판단 기준은 단순 GPU 수량이 아니라, 토큰당 비용·지연시간·모델 최적화 내재화 역량이 될 것입니다.
참고
3Nebius Just Signed $46 Billion in AI Cloud Deals With Microsoft and Meta. Can This Stock 10X?
4Nebius' stock soars 60% on multibillion-dollar AI infrastructure deal with Microsoft
5Nebius and Eigen AI partner to accelerate frontier open-source AI inference
6AI Inference Chip Architecture Technology Landscape 2026 -- PatSnap Insights
8Cloud Provider Nebius Agrees to Buy AI Startup for $615 Million
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.