AI 인프라가 ‘기가스케일(gigascale)’ 시대로 접어들면서, 수십만 개의 GPU를 하나의 시스템처럼 작동시키는 네트워크는 더 이상 보조 장치가 아닌 핵심 경쟁력이 되고 있습니다. GPU가 아무리 강력해도 네트워크가 데이터를 제때 전달하지 못하면 전체 워크로드가 멈추기 때문입니다. NVIDIA가 공개한 NVIDIA Spectrum-6는 이 문제를 근본적으로 해결하기 위해 설계된 차세대 이더넷 스위치 시스템입니다1.
연결을 재설계하다: NVIDIA Spectrum-6가 바꾸는 네트워크의 정의
NVIDIA Spectrum-6의 총 처리 용량은 102.4Tbps입니다. 수치만 보면 이전 세대 대비 단순히 두 배 빨라진 것으로 읽힐 수 있지만, 핵심은 용량 증가를 가능하게 만든 구조 자체의 변화에 있습니다2. 대표적인 예가 공동 패키징 광학(Co-Packaged Optics) 기술의 본격 도입입니다. 기존 방식은 광통신 모듈을 스위치 외부에 별도로 장착했지만, Spectrum-6 SN6000 시리즈는 광학 부품을 스위치 칩 패키지 안에 직접 통합했습니다. 이로 인해 레인당 대역폭은 두 배로 늘었고, 전력 효율은 기존 대비 5배 향상되었으며, 네트워크 장애 없이 운영되는 시간도 10배 길어졌습니다3. 단순히 속도만 빠른 스위치가 아니라, 전력 밀도가 극한에 달하는 AI 데이터센터에서 더 오래 안정적으로 작동할 수 있도록 설계된 제품인 셈입니다.
이러한 개선은 단독으로 이루어진 것이 아닙니다. Spectrum-6는 실리콘 포토닉스 기술을 네트워킹 하드웨어에 직접 통합해 대역폭 밀도를 높이고 전력 소비를 낮추는 Spectrum-X Ethernet 플랫폼의 핵심 축입니다3. 이 플랫폼은 Spectrum-6 외에도 NVIDIA ConnectX-9 SuperNIC, BlueField-4 DPU, LinkX 케이블 및 트랜시버, 그리고 다중 AI 데이터센터 간 연결을 위한 Spectrum-XGS로 구성됩니다3. 이 모든 요소는 NVIDIA Vera Rubin 플랫폼 안에서 CPU, GPU, 보안, 전력 공급, 냉각까지 아우르는 익스트림 코디자인(extreme co-design) 방식으로 통합되었습니다45. 부품을 따로 만든 뒤 조립하는 방식이 아니라, 칩과 랙 트레이 단계부터 하나의 시스템으로 설계했기 때문에 가능한 성능 최적화입니다.
Spectrum-X Ethernet은 이 통합 설계를 바탕으로 기성품 이더넷 대비 1.6배 높은 AI 네트워킹 성능을 내며, 10만 개 이상의 GPU 환경에서도 95% 네트워크 효율을 유지합니다1. Vera Rubin 플랫폼 안에서 GPU 간 트래픽을 가용 경로 전반에 지능적으로 분산하고, 링크 장애가 발생하면 즉시 경로를 우회하며, 데이터 전송 실패 시 정밀하게 복구하는 기능이 모두 Spectrum-6 기반의 Spectrum-X Ethernet 위에서 구현됩니다7. 사람이 개입할 수 없는 밀리초 단위의 협업이 요구되는 대규모 학습 환경에서 이 같은 자동화는 필수 조건입니다.
속도가 아니라 토큰 비용으로 평가하는 AI 네트워크
AI 인프라의 진짜 성능 지표는 대역폭이 아니라 단위 전력당 생산하는 토큰 수, 즉 토큰 비용으로 빠르게 이동하고 있습니다. Spectrum-6의 초기 도입사인 CoreWeave의 벤치마크에 따르면, Spectrum-6로 연결된 Vera Rubin NVL72 시스템은 이전 세대 대비 메가와트당 10배 더 많은 토큰을 처리했습니다6. 랙 전체가 하나의 확장된 가속기처럼 작동하는 Vera Rubin NVL72의 예측 가능한 지연 시간과 높은 활용도가 Spectrum-6의 안정적인 패브릭 위에서 비로소 실현된 결과입니다4. 네트워크 병목이 사라지자 GPU 활용률이 올라갔고, 같은 전력으로 훨씬 더 많은 연산을 수행할 수 있게 된 것입니다.
이러한 경제적 이점이 Microsoft, Nebius, SpaceXAI, Tesla 같은 기업들이 NVIDIA Spectrum-6를 가장 먼저 도입하는 AI 인프라 구축 업체에 포함된 이유입니다1. 이들은 네트워크를 비용 센터가 아니라 GPU와 동등한 수준의 전략 자산으로 보고 있으며, 총소유비용(TCO)을 낮추는 핵심 요소로 Spectrum-X Ethernet을 선택하고 있습니다.
기가스케일 AI 팩토리에서 네트워크는 더 이상 인프라의 일부가 아니라 컴퓨팅 성능을 결정짓는 승수(乘數)입니다. NVIDIA Spectrum-6는 단순한 ‘다음 버전 스위치’가 아니라, AI 데이터센터의 전력 효율과 운영 안정성, 그리고 궁극적으로 토큰 비용까지 근본적으로 바꾸는 전환점입니다. 연결이 곧 성능임을 기술과 숫자로 증명한 이 제품이 앞으로의 AI 네트워킹 기준을 어떻게 재편할지 주목할 필요가 있습니다.
1Built for Vera Rubin, NVIDIA Spectrum-6 Arrives in Gigascale AI Factories
2Accelerated Ethernet Switching for AI and the Cloud
3Nvidia unveils Spectrum-X networking platform designed to connect millions of GPUs
4Inside the NVIDIA Vera Rubin Platform: Six New Chips, One AI Supercomputer
5NVIDIA Vera Rubin Driving Performance Per Watt, Lowest Token Cost for Partners Worldwide
6Nvidia Spectrum-6 Ethernet switch arrives at gigascale AI factories
7Nvidia debuts Spectrum-6 switches to power next-gen AI networking - SDxCentral
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.