미 해군대학원(Naval Postgraduate School)에 NVIDIA DGX GB300 시스템이 설치되었다는 소식은 단순한 기증 이벤트를 넘어, 첨단 AI 인프라의 현주소를 보여주는 하나의 이정표다1. 하드웨어 사양보다 더 중요한 것은 이 시스템이 실제로 어떤 소프트웨어 위에서, 어떤 제약 조건을 안고 돌아가는가이다. 지금 NVIDIA DGX GB300을 도입한다는 것의 현실적인 의미를 소프트웨어 스택과 운영 요건을 중심으로 짚어본다.
랙 전체가 하나의 유기체다
NVIDIA DGX GB300은 고성능 GPU 서버 여러 대를 모아놓은 구성이 아니다. NVL72 구성 기준으로 36개의 Grace CPU와 72개의 Blackwell Ultra GPU가 NVLink로 직결된 랙 스케일 시스템이다. 이 아키텍처가 만들어내는 운영 철학의 변화는 릴리스 노트에서 곧바로 드러난다.
최신 소프트웨어 릴리스(1.0.10)는 NVLink 복구 기능이 기본 활성화되어 있는데, 이 기능을 올바르게 사용하려면 랙 전체의 모든 컴포넌트를 1.0.5 이상으로 통일 업그레이드해야 한다3. 컴퓨트 노드 하나만 부분적으로 업그레이드하면 호환성 문제가 발생한다. 시스템을 부품 단위가 아니라 하나의 유기체로 관리해야 한다는 뜻이며, 이것이 기존 HPC 클러스터와 NVIDIA DGX GB300의 운영 모델이 근본적으로 갈리는 지점이다. 릴리스 1.0.10 역시 NVIDIA DGX GB300 전용으로 제공되며 다른 제품에는 사용할 수 없다는 점도 같은 맥락에서 이해해야 한다3.
소프트웨어 성숙도가 말해주는 현재 위치
하드웨어가 캠퍼스에 도착했다고 해서 이야기가 끝나는 것은 아니다. 함께 공개된 소프트웨어 스택은 이 시스템의 현재 성숙도를 솔직하게 보여준다. 데이터센터 드라이버 580.167.08과 CUDA 툴킷 13.0.2, cuDNN 9.18.1, NCCL 2.27.5 등 기반 라이브러리는 갖춰졌다4.
그러나 추론 엔진 쪽을 들여다보면 분위기가 달라진다. TensorRT 10.13 버전이 NVIDIA DGX GB300에 대한 기능적 지원을 시작했지만, 시스템 성능을 제대로 끌어내는 개선 사항은 추후 릴리스로 예정되어 있다5. TRT-LLM은 더 적나라하다. 얼리 빌드로 제공되며 베타 품질이고, 기능 및 성능 이슈가 있을 수 있다고 명시되어 있다6.
즉, 하드웨어는 이미 현장에 있지만 소프트웨어 생태계는 여전히 완성 중이다. 펌웨어 패키지 구성요소로 DCGM 4.5.0, nvdebug 2.0.0, nvfwupd 2.0.8, MSTflint 4.34.1-4 등이 포함되어 있다는 사실도, 초기 도입자가 감당해야 할 운영 범위가 적지 않음을 암시한다4. 지금 이 시스템을 받아들인 조직은 미완성 스택의 운영 부담을 감수하면서까지 학습 곡선을 미리 확보하겠다는 전략적 판단을 내린 셈이다.
조직의 판단 기준을 다시 보게 만든다
NPS가 NVIDIA DGX GB300을 도입한 배경에는 교육과 연구라는 뚜렷한 목적이 있다. 1,500명 이상의 현역 장교와 방위 분야 전문가들이 실제 운영 환경과 유사한 인프라 위에서 AI의 가능성과 한계를 직접 체험하게 된다1. 이는 2024년 12월 엔비디아와 체결한 CRADA를 통한 공동 AI 연구의 연장선상에 있으며, 이미 MITRE와 협력하여 NVIDIA Omniverse 라이브러리 기반의 디지털 트윈 프레임워크를 개발해온 흐름과도 맞닿아 있다.
조직이 첨단 AI 인프라를 평가할 때 이 사례가 던지는 교훈은 분명하다. 하드웨어 사양서가 아니라 릴리스 노트와 소프트웨어 성숙도가 현실적인 도입 시나리오를 결정한다는 점, 그리고 NVIDIA DGX GB300처럼 통합도가 극단적으로 높은 시스템은 기존 데이터센터와 전혀 다른 운영 역량을 요구한다는 점이다. 설치를 위해 DDN, VAST, Vertiv 같은 전문 파트너들이 참여하고, NVIDIA Mission Control 같은 통합 관리 소프트웨어가 함께 제공되는 이유도 여기에 있다. 마지막으로, 이 시스템이 NPS 재단을 통해 기증되고 연구 자금과 함께 설치되었다는 점은, 이러한 결정이 단순한 조달 건이 아니라 장기적인 역량 투자로 설계되었음을 보여준다1.
3Overview -- NVIDIA DGX GB300 NVL72 Release Notes
4System Libraries, Tools, and Drivers
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.