NVIDIA가 2024년 10월 23일, 64GB 통합 메모리를 탑재한 데스크톱 AI 개발 플랫폼인 NVIDIA DGX Spark 64GB 모델을 정식 출시했습니다 1. 이 제품은 Acer, ASUS, Dell, Gigabyte, HP, MSI 등 글로벌 OEM 파트너사들을 통해 공급되며, 시작 가격은 4,999달러로 책정되었습니다 12.
이번 신규 모델의 등장은 로컬 환경에서 거대 언어 모델(LLM)과 자율형 AI 에이전트를 개발하려는 연구자와 개발자들에게 중요한 변화를 예고합니다. 특히 기존에 출시되었던 128GB 탑재 모델의 가격이 시장 수요와 부품 공급 상황 등으로 인해 약 6,950달러 선으로 크게 인상된 상황에서, NVIDIA DGX Spark 64GB는 고성능 로컬 AI 워크스테이션 도입을 고려하는 조직에게 진입 장벽을 낮추는 대안으로 자리 잡고 있습니다 2.
GB10 Grace Blackwell Superchip 아키텍처의 핵심 원리와 사양
NVIDIA DGX Spark 64GB 시스템의 두뇌는 GB10 Grace Blackwell Superchip입니다 13. 이 칩은 인공지능 연산에 특화된 Blackwell 아키텍처 GPU와 고성능 20코어 Arm CPU(10개의 Cortex-X925 코어 및 10개의 Cortex-A725 코어)가 밀접하게 통합된 구조를 가지고 있습니다 34. 이 아키텍처는 데이터 전송 병목 현상을 최소화하는 256비트 인터페이스 기반의 LPDDR5x 통합 시스템 메모리(Unified System Memory)를 사용하여 273 GB/s에 달하는 넓은 대역폭을 제공합니다 34.
이를 통해 FP4(4비트 부동소수점) 정밀도 연산 시 최대 1 PetaFLOP(초당 1,000조 번의 연산)에 이르는 강력한 AI 연산 성능을 발휘합니다 34. 시스템 본체는 가로 150mm, 세로 150mm, 높이 50.5mm에 무게 1.2kg에 불과한 컴팩트한 소형 폼팩터(SFF)로 설계되어 데스크톱 공간에 부담 없이 배치할 수 있습니다 4. 다만, 최적의 성능을 안정적으로 유지하기 위해서는 본체 전력 소비를 감당할 수 있는 전용 240W 외부 전원 공급 장치의 사용이 필수적입니다 4.
초고속 패브릭 기반의 스케일 아웃 성능과 클러스터링 구조
단일 NVIDIA DGX Spark 64GB 시스템은 최대 1,000억 개(100B)의 파라미터를 가진 AI 모델을 기기 내에서 로컬로 지원합니다 1. 그러나 처리해야 할 워크로드의 규모가 커질 경우, 여러 대의 하드웨어를 엮어 성능을 확장하는 '스케일 아웃(Scale-out)' 방식을 취할 수 있습니다. 모든 DGX Spark 장치에는 고성능 네트워크 인터페이스 카드인 NVIDIA ConnectX-7 NIC가 기본 탑재되어 있어, 초고속 200 GbE 패브릭 구성을 통한 기기 간 메모리 풀링과 워크로드 분산이 가능합니다 14.
두 대의 DGX Spark 64GB 장치를 QSFP 케이블로 연결하고 NVIDIA Sync Cluster Assistant 소프트웨어를 적용하면, 총 128GB의 통합 메모리를 갖춘 단일 클러스터처럼 동작합니다 1. 이 구성에서는 최대 2,000억 개(200B) 파라미터 수준의 대형 모델을 로컬에서 원활하게 구동할 수 있습니다 1. 실제로 NVIDIA가 진행한 Qwen 3.8 27B 모델 테스트 결과에 따르면, 두 대를 클러스터링한 시스템은 단일 시스템 대비 최대 1.7배의 성능(처리 속도 기준)을 기록하며 뛰어난 자원 확장성을 입증했습니다 1. 이 플랫폼은 최대 4대까지 클러스터링을 지원하여 최종적으로 512GB의 메모리와 700B 파라미터급 모델 구동 환경을 구축할 수 있습니다 3.
로컬 AI 에이전트 개발을 위한 소프트웨어 생태계 및 프레임워크 지원
하드웨어의 강력한 성능은 고도로 최적화된 DGX OS 및 NVIDIA AI 소프트웨어 스택과의 결합을 통해 완성됩니다 1. DGX Spark 플랫폼은 개발자가 클라우드 환경에 의존하지 않고 로컬 장치 내에서 독립적으로 AI 모델을 개발, 테스트, 미세조정(Fine-Tuning)할 수 있는 완벽한 런타임 환경을 제공합니다 13. 이에 따라 Ollama, vLLM, PyTorch(CUDA 포함), llama.cpp, LM Studio 등 업계에서 널리 쓰이는 다양한 추론 프레임워크를 사용자의 기호에 맞게 선택하여 활용할 수 있습니다 1.
특히 2024년 10월 말 출시 예정인 NVIDIA Sync Model Launcher를 이용하면, 복잡한 인프라 설정 없이도 Qwen3.8 27B 모델 등을 손쉽게 다운로드하여 구동할 수 있습니다 1. 또한, 안전한 자율형 에이전트 배포를 위해 NemoClaw와 OpenShell 같은 보안 가드레일 기술이 포함된 오픈소스 레퍼런스 스택인 NVIDIA Agent Toolkit을 기본 제공합니다 13. 여기에 더해 3D 창작 툴인 Blender 역시 DGX Spark 플랫폼을 공식 지원하며 사전 빌드된 설치 파일을 제공할 예정이어서, 인공지능 기반 그래픽 파이프라인 개발자들에게도 유용하게 활용될 전망입니다 1.
한편, NVIDIA는 워크스테이션 라인업 외에도 일반 사용자 및 가벼운 AI 개발 환경을 겨냥해 Acer, ASUS, Dell, HP, Lenovo, Microsoft, MSI를 통해 NVIDIA RTX Spark 브랜드의 새로운 윈도우 PC 제품군을 2024년 10월 중 출시한다고 밝혔습니다 1.
가격 인상 국면에서 마주한 시장 경쟁력과 최적의 도입 판단 기준
NVIDIA DGX Spark 64GB 도입을 검토 중인 구매자가 합리적인 결정을 내리기 위해서는 시장 환경과 기술적 한계를 면밀히 평가해야 합니다. 무엇보다 비용 효율성 측면에서 고민이 필요합니다. 기존 128GB 모델은 1년 전 출시 당시 약 3,999달러였으나 현재는 6,950달러 수준으로 크게 인상되었습니다 2. 신형 64GB 모델의 가격이 4,999달러부터 시작하는 점을 감안할 때, 단순 연산으로 두 대를 클러스터링(약 8,000달러 이상)하는 비용은 단일 128GB 모델 한 대를 구매하는 비용보다 높습니다 2.
하드웨어 아키텍처 관점에서는 언제나 분산 확장(스케일 아웃) 이전에 단일 시스템 내에서의 수직 확장(스케일 업)을 우선시하는 것이 성능 최적화에 유리합니다 2. 여러 대의 시스템을 클러스터링하면 네트워크 인터커넥트를 거치기 때문에 단일 보드 내의 메모리 버스 대역폭을 백퍼센트 활용할 수 없어 미세한 병목이 발생하기 때문입니다.
더불어 경쟁 환경도 고려해야 합니다. 예를 들어 비슷한 시기에 출시되는 AMD Gorgon Halo 기반 시스템의 경우, 단일 시스템에서 최대 192GB의 대용량 메모리를 확보할 수 있어 용량 대비 단가 측면에서 더 유리할 수 있습니다 2. 또한 전문 크리에이터와 개발자들에게 인기를 끌고 있는 Apple의 Mac Studio M5 Ultra(256GB 메모리 탑재 모델 기준 약 10,000달러 선 예상) 역시 로컬 거대 모델 추론 장비로서 강력한 경쟁 상대입니다 2.
결과적으로 온프레미스(로컬) 환경에서 기업의 기밀 데이터를 보호하면서 1,000억 개 미만 파라미터의 자율형 에이전트를 중단 없이 상시 구동하려는 개발팀, 그리고 향후 워크로드 증가 시 ConnectX-7 기반의 초고속 이더넷 패브릭을 활용해 시스템을 유연하게 확장하려는 연구 조직에게 NVIDIA DGX Spark 64GB는 우수한 전력 대비 성능과 신뢰성 높은 생태계를 보장하는 합리적인 투자 대상이 될 것입니다.
참고
1NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI
2NVIDIA DGX Spark 64GB Launched and Big 128GB GB10 Price Increases
3Personal AI Supercomputer Powered by Blackwell | NVIDIA DGX Spark
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.