더 뜨겁게 식히는 데이터센터: Nvidia Rubin 액체 냉각의 의미

AI 데이터센터의 병목은 더 이상 GPU 성능만이 아닙니다. 전력 공급, 열 배출, 물 사용량이 함께 설계의 한계를 결정합니다. Nvidia가 Rubin 세대용 완전 액체 냉각 데이터센터 레퍼런스 디자인을 공개한 이유도 여기에 있습니다.

핵심은 서버를 무조건 더 차갑게 만드는 것이 아닙니다. 열을 발생 지점에서 바로 붙잡아, 더 적은 에너지와 물로 밖으로 옮기는 것입니다.

Rubin 액체 냉각 설계가 바꾸는 것

Nvidia DSX AI factory reference design은 AI 팩토리 인프라를 설계·구축·운영하기 위한 모범 사례를 담은 기준안입니다.¹ Rubin 세대에서 Nvidia가 제시한 방향은 칩뿐 아니라 네트워킹 구성요소까지 액체로 냉각하는 100% 액체 냉각 구조입니다.¹

기존 공랭 데이터센터는 IT 장비의 열을 제거하기 위해 대량의 차가운 공기를 밀어 넣습니다.¹ 더운 날씨에는 이를 위해 에너지 집약적인 냉각 인프라가 필요할 수 있습니다.¹ 반면 Rubin 구조는 냉각수를 프로세서 위의 콜드 플레이트로 보내 열을 발생 지점에서 직접 흡수합니다.¹

냉각수는 물 75%, 프로필렌글리콜 25% 혼합물입니다.¹ 이 액체가 콜드 플레이트를 통과하며 칩 표면의 열을 받아들이고, 폐쇄 루프를 따라 이동합니다.¹ Nvidia는 이 구조를 시스템 내부 팬 없이 냉각수를 순환시키는 방식으로 설명합니다.¹

즉, Rubin 설계의 본질은 “차가운 공기 중심의 냉각”에서 “액체 루프 중심의 열 운반”으로 바뀌는 데 있습니다.

왜 45°C 냉각수가 중요한가

Rubin 설계에서 냉각수는 최대 45°C로 랙에 들어갈 수 있습니다.¹ 일반적인 감각으로는 “너무 뜨거운 냉각수”처럼 보이지만, 이 온도가 오히려 설계의 핵심입니다.

45°C로 칩에 들어간 냉각수는 칩 표면의 열을 흡수한 뒤 약 55°C로 배출됩니다.¹ 콜드 플레이트는 랙 유입 냉각수가 45°C여도 장치 온도를 검증된 작동 한계 안에 유지하도록 설계됩니다.¹

이 방식의 장점은 열을 버리기 쉬워진다는 점입니다. 냉각수 온도가 높을수록 외부 공기나 드라이 쿨러를 활용해 열을 배출하기가 상대적으로 유리합니다. 그만큼 냉동기나 냉각탑에 대한 의존도를 낮출 수 있습니다.

냉각은 역사적으로 데이터센터 전체 전력 소비의 최대 40%를 차지해 왔습니다.¹ 따라서 45°C 액체 냉각은 단순한 냉각 기술 변화가 아니라, AI 데이터센터의 운영비와 입지 전략에 영향을 주는 설계 변화입니다.

물 사용량 논의에서 봐야 할 점

Nvidia는 기존 냉각탑 기반 시스템의 물 사용량을 연간 MW당 약 260만 갤런으로 제시했습니다.¹ 그리고 Rubin 액체 냉각 레퍼런스 디자인은 물 사용량을 거의 0에 가깝게 줄일 수 있다고 설명합니다.¹

다만 이 주장은 조건과 함께 이해해야 합니다. “거의 0”이라는 표현이 모든 지역과 모든 데이터센터에 자동으로 적용된다는 뜻은 아닙니다. 실제 효과는 기후, 전력 단가, 냉각 설비 구성, 신규 구축인지 기존 시설 개조인지에 따라 달라질 수 있습니다.

그래서 Rubin 설계를 평가할 때는 다음 세 가지를 함께 봐야 합니다.

• 실제 PUE 개선 효과

• 물 취수량 감소 폭

• 액체 냉각 전환에 필요한 설비 비용과 운영 복잡도

이 기준으로 보면 Rubin의 의미는 더 분명해집니다. Nvidia가 말하는 변화는 단순히 “더 뜨거운 서버를 견디는 기술”이 아닙니다. AI 데이터센터 설계의 중심이 칩 성능 단독 최적화에서 전력, 열, 물 사용량을 함께 최적화하는 방향으로 이동하고 있다는 신호입니다.

¹Hotter Than a Hot Tub: The 45°C Breakthrough to Cool AI's Biggest Machines