Vera Rubin 세대에서 NVIDIA가 HBF를 GPU-Direct Storage와 결합한다는 이야기가 나왔습니다. 그러나 이를 확정된 제품 계획으로 받아들이기는 이릅니다. Jukan(@jukan05)은 2026년 5월 24일 X에서 NVIDIA의 HBF 사용 보도가 사실이 아니며, NVIDIA가 GIDS에 HBF를 고려하지 않고 있다고 밝혔습니다. 대신 200M IOPS NAND 같은 고신뢰성·고속 NAND 사용을 검토하고 있다고 언급했습니다.
따라서 지금 봐야 할 핵심은 “Rubin GPU에 HBF가 붙는가”가 아닙니다. 더 중요한 질문은 “AI 시스템에서 저장소가 GPU에 얼마나 가까워지고, 데이터 이동 병목을 어떻게 줄이려 하는가”입니다.
Vera Rubin은 GPU가 아니라 랙 단위 플랫폼이다
Vera Rubin은 GPU, CPU, 네트워킹, 보안, 소프트웨어, 전력 공급, 냉각을 함께 설계한 AI 팩토리용 플랫폼입니다.1 NVIDIA는 이 세대에서 단일 GPU 서버가 아니라 데이터센터 전체를 하나의 컴퓨팅 단위로 다루는 설계를 강조합니다.1
Vera Rubin NVL72도 같은 흐름에 있습니다. 전체 랙이 하나의 랙 스케일 가속기처럼 동작하도록 설계된 시스템입니다.1 구성 요소는 Rubin GPU, Vera CPU, NVLink 6 스위치, ConnectX-9, BlueField-4 DPU 등으로 넓게 분산됩니다.1
각 칩의 역할도 분명합니다. Rubin GPU는 HBM4와 새로운 NVIDIA Transformer Engine을 사용하는 AI 연산 칩으로 설명됩니다.1 Vera CPU는 NVIDIA가 설계한 88개 Olympus 코어를 탑재하고 Arm 호환성을 제공합니다.1 NVLink 6 스위치는 GPU 간 3.6TB/s 대역폭을 제공하는 6세대 스케일업 패브릭이며, ConnectX-9는 스케일아웃 AI용 고처리량·저지연 네트워킹 인터페이스입니다.1 BlueField-4 DPU는 인프라 오프로딩과 보안을 위한 64코어 Grace CPU를 포함한 듀얼 다이 패키지로 설명됩니다.1
즉 Rubin의 핵심은 “더 빠른 GPU 한 장”이 아닙니다. GPU가 쉬지 않고 연산하도록 CPU, 네트워크, 보안, 스토리지 경로, 전력과 냉각까지 함께 최적화하는 시스템 설계입니다.
GDS와 GIDS: 차이는 ‘누가 요청하느냐’다
이 논쟁을 이해하려면 GDS와 GIDS를 구분해야 합니다.
GDS는 CPU가 스토리지에 데이터 요청을 내리고, 스토리지가 GPU로 데이터를 직접 전송하는 방식입니다.2 기존처럼 데이터를 CPU 메모리에 올린 뒤 다시 GPU로 복사하는 경로를 줄이는 접근입니다.
GIDS는 여기서 한 단계 더 나아갑니다. GPU가 직접 스토리지에 요청을 내리는 구조입니다.2 목표는 CPU와 DRAM을 더 적게 거치고, GPU가 필요한 데이터를 더 직접적으로 가져오게 만드는 것입니다.
이 방향이 주목받는 이유는 단순합니다. AI 모델이 커질수록 병목은 연산 성능만이 아니라 데이터 이동에서 생깁니다. GPU가 아무리 빨라도 필요한 모델 파라미터나 데이터를 제때 받지 못하면 전체 처리량은 떨어집니다.
HBF 논란의 핵심: 메모리 대체가 아니라 계층 재설계
HBF는 NAND를 HBM처럼 쌓고 TSV로 연결해 대역폭과 용량을 높이려는 플래시 메모리 개념입니다.2 NAND는 DRAM보다 비트 밀도가 높아 큰 용량을 만들기 쉽습니다.2
다만 HBF가 HBM을 그대로 대체한다고 보기는 어렵습니다. NAND는 쓰기·지우기 수명 제한이 있기 때문입니다.2 그래서 자주 바뀌는 KV 캐시보다, 추론 중 거의 읽기 전용으로 쓰이는 모델 파라미터 저장에 더 적합한 후보로 거론됩니다.2
여기서 중요한 판단 기준은 “HBF라는 이름이 실제 제품에 들어가는가”가 아닙니다. HBM은 초고속 작업 공간으로, 고속 NAND는 더 큰 읽기 중심 저장 계층으로 나뉘는 하이브리드 구조가 실제 시스템과 소프트웨어에서 어떻게 구현되는지가 더 중요합니다.
Jukan의 언급도 이 관점에서 읽어야 합니다. HBF 채택 보도를 확정 사실로 보기보다는, NVIDIA가 GIDS 같은 구조에서 어떤 종류의 고성능 NAND를 검토하는지에 초점을 맞추는 편이 더 현실적입니다.
실무적으로 봐야 할 포인트
Vera Rubin 관련 스토리지 논의를 볼 때는 다음 세 가지를 구분해야 합니다.
확정된 플랫폼 방향
Vera Rubin은 랙 스케일 AI 시스템이며, GPU·CPU·네트워킹·DPU·전력·냉각을 함께 설계하는 방향이 확인됐습니다.1개념적으로 중요한 데이터 경로
GDS는 CPU 요청 후 스토리지에서 GPU로 직접 데이터를 보내는 방식이고, GIDS는 GPU가 직접 스토리지에 요청하는 구조입니다.2아직 확정으로 보기 어려운 매체 선택
HBF가 Rubin 또는 GIDS에 실제로 쓰일지는 확정 정보로 보기 어렵습니다. 현재로서는 고속·고신뢰성 NAND를 포함한 저장 계층 재설계 가능성으로 보는 것이 적절합니다.
결론
Vera Rubin에서 확인된 큰 방향은 랙 스케일 통합과 데이터 이동 최적화입니다. HBF 통합 여부는 아직 확정된 제품 계획으로 보기 어렵습니다.
하지만 논란이 던지는 메시지는 분명합니다. AI 인프라 경쟁은 GPU 연산 성능만으로 결정되지 않습니다. 앞으로는 GPU가 필요한 데이터를 얼마나 빠르고 효율적으로 가져오게 하느냐가 핵심 경쟁 축이 됩니다. HBF든 고속 NAND든, 중요한 것은 저장소가 GPU에 더 가까워지고 있다는 점입니다.
1Inside the NVIDIA Vera Rubin Platform: Six New Chips, One AI Supercomputer
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.