AI 생성 이미지
엔비디아가 3월 공개한 Vera CPU는 단순히 “GPU 회사가 만든 CPU”로 볼 제품이 아니다. 젠슨 황은 올해 독립형 Vera CPU 판매액이 200억 달러에 이를 수 있다고 말했다.1 더 중요한 질문은 숫자 자체보다, 왜 엔비디아가 지금 CPU를 전면에 내세우느냐다.
Vera는 에이전틱 AI를 위한 데이터센터 CPU다
Vera CPU는 에이전틱 AI와 강화학습을 위해 설계된 전용 데이터센터 CPU다.2 여기서 핵심은 AI 모델의 추론 속도만이 아니다.
에이전틱 AI는 모델이 스스로 계획을 세우고, 도구를 호출하고, 데이터를 조회하며, 여러 단계를 거쳐 작업을 수행하는 방식이다. 이 과정에서는 GPU가 모델 연산을 담당하지만, 모델 바깥에서 돌아가는 코드 실행, 도구 호출, 데이터 워크플로우, 시스템 오케스트레이션은 CPU의 역할이 커진다.
Vera는 바로 이 영역을 겨냥한다. GPU를 단순히 보조하는 부품이라기보다, AI 시스템 전체의 작업 흐름을 조율하는 호스트 CPU에 가깝다.2
AI 병목은 이제 ‘연산’만이 아니다
AI 인프라를 볼 때 흔히 GPU 성능을 먼저 떠올린다. 하지만 에이전트형 서비스에서는 병목이 GPU 연산에만 생기지 않는다. 데이터가 어디에 있는지, 어떤 순서로 이동하는지, 도구 호출이 얼마나 지연되는지, GPU가 쉬지 않도록 작업을 얼마나 잘 공급하는지가 전체 성능을 좌우한다.
엔비디아는 Vera가 가속 시스템의 호스트 CPU로서 NVIDIA GPU와 함께 데이터 이동, 메모리 관리, 시스템 제어를 조율한다고 설명한다.2 또한 기존 CPU 인프라 대비 최대 50% 빠른 속도와 2배 효율성을 제공한다고 제시한다.2
이 수치는 실제 도입 환경에서 검증이 필요하다. 다만 방향은 분명하다. AI 경쟁은 개별 GPU 성능표를 비교하는 단계에서, CPU·GPU·메모리·네트워크를 묶은 시스템 효율 경쟁으로 이동하고 있다.
Vera가 보여주는 변화: 칩에서 랙 단위 시스템으로
Vera CPU 랙은 NVIDIA MGX 기반으로 구축되며, 최대 256개의 Vera CPU를 통합할 수 있다.2 이는 서버 한 대나 칩 하나가 아니라, 랙 전체를 하나의 AI 작업 단위로 설계하려는 흐름을 보여준다.
기업 입장에서도 판단 기준이 달라진다. 에이전트 서비스를 운영하거나 계획하고 있다면 GPU 사용률만 볼 것이 아니다. CPU 병목, 메모리 대역폭, 도구 호출 지연, 데이터 이동 비용, 시스템 제어 효율을 함께 점검해야 한다.
Vera의 의미는 “엔비디아가 CPU도 만든다”가 아니다. AI 시대의 컴퓨팅 단위가 칩에서 시스템으로 커지고 있다는 신호다.
앞으로 AI 인프라를 평가할 때는 한 가지 질문을 추가해야 한다. “이 시스템은 모델을 얼마나 빠르게 돌리는가?”뿐 아니라 “에이전트의 전체 작업 흐름을 얼마나 효율적으로 굴리는가?”다.
1Jensen Huang says he's found a 'brand new' $200B market for Nvidia
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.