GPU는 비싸고, 링크 사용률도 멀쩡해 보이는데, 왜 대규모 학습 잡은 가끔 한참 멈춰 서는가. 문제는 총 대역폭만이 아니다. 수천~수십만 GPU가 동기화되는 환경에서는 하나의 RDMA 연결이 운 나쁜 경로 하나에 묶이는 순간, 전체 잡의 꼬리 지연이 늘어난다.
최근 OpenAI는 MRC, 즉 Multipath Reliable Connection을 대규모 AI 학습 네트워크를 위한 기술로 공개하고 OCP를 통한 개방 흐름을 알렸다.1 AMD, NVIDIA, Microsoft, Broadcom, Intel 등도 관련 구현과 협업을 언급하고 있다. 중요한 점은 MRC가 단순히 "RoCE를 더 빠르게 만든 것"이 아니라, 클라우드 네트워크에서 익숙했던 다중 경로·혼잡 회피·빠른 우회 개념을 RDMA 연결 내부로 끌어들인다는 데 있다.
병목은 대역폭보다 '경로 취약성'에 가깝다
기존 RoCEv2는 데이터센터에서 널리 쓰였지만, 대규모 AI 학습에는 불리한 지점이 있다. AMD는 전통적인 RoCEv2가 연결당 단일 경로에 묶이기 쉽고, 패킷 손실 시 go-back-N 방식으로 불필요한 재전송이 커질 수 있으며, PFC 기반 무손실 설계가 대규모에서는 head-of-line blocking과 혼잡 확산을 만들 수 있다고 설명한다.2
Meta의 운영 경험도 같은 방향을 가리킨다. AI 학습 트래픽은 일반 웹 트래픽보다 플로우 엔트로피가 낮고, 반복적이며, 짧은 시간에 라인레이트까지 치솟는 elephant flow 성격이 강하다. Meta는 ECMP만으로는 충돌이 생기기 쉬웠고, 일부 상황에서는 학습 성능이 30% 이상 저하될 수 있었다고 공개했다.3
해석하면 이렇다. AI 네트워크의 문제는 "길이 부족하다"만이 아니라 "좋은 길을 계속 골라 탈 능력이 부족하다"에 가깝다. 링크를 더 깔아도 하나의 RDMA 연결이 특정 해시 결과나 특정 장애에 발목 잡히면 GPU는 기다린다. 그리고 GPU가 기다리는 시간은 곧 돈이다.
MRC가 바꾸는 것: 하나의 연결이 하나의 차선처럼 행동하지 않는다
MRC의 핵심은 단일 RDMA 연결이 여러 네트워크 경로를 동시에 활용할 수 있게 하는 것이다. 애플리케이션이 직접 트래픽을 여러 연결로 쪼개거나, 스케줄러가 운 좋게 배치해주기를 기다리는 방식과 다르다. 연결 자체가 다중 경로를 인식한다.
AMD는 MRC가 패킷 단위의 지능형 분산, NIC 수준의 경로 장애 감지와 재분배, SACK/NACK 기반 선택적 재전송, NSCC 기반 혼잡 제어를 포함한다고 설명한다.4 NVIDIA 쪽 보도에서도 Spectrum-X 환경에서 MRC가 하드웨어 가속 부하분산, 동적 혼잡 회피, 빠른 손실 복구, 마이크로초 단위의 장애 우회를 목표로 한다고 정리된다.5
여기서 실무적으로 중요한 변화는 "복구 위치"다. 기존에는 애플리케이션, 통신 라이브러리, 스케줄러, 라우팅 정책이 나눠 갖던 부담 일부가 NIC와 전송 계층으로 내려간다. 즉, MRC는 네트워크를 더 똑똑하게 만드는 동시에, 장애와 혼잡을 더 국소적으로 흡수하려는 시도다.
다만 공짜는 아니다. 다중 경로는 순서 뒤바뀜, 경로별 RTT 차이, 재전송 판단, 텔레메트리 해석을 더 어렵게 만든다. "한 플로우가 어느 링크를 탔는가"를 보는 기존 디버깅 방식은 부족해진다. 앞으로는 연결 단위가 아니라 경로 묶음, 혼잡 신호, NIC 내부 재분배 상태까지 관찰해야 한다.
도입 판단: 기능인가, 패브릭 전략인가, 락인인가
MRC를 구매 체크리스트의 한 줄 기능으로만 보면 위험하다. 효과가 큰 환경은 비교적 분명하다. 수천 GPU 이상, 장시간 동기식 학습, AllReduce 같은 집단 통신 비중이 높고, 장애나 혼잡 하나가 전체 잡 시간을 늘리는 클러스터다. 반대로 작은 클러스터나 네트워크보다 스토리지·데이터 파이프라인이 병목인 환경에서는 우선순위가 낮을 수 있다.
도입 전 물어야 할 질문은 세 가지다.
첫째, MRC가 실제로 어느 조합에서 동작하는가. NIC, 스위치, 펌웨어, 드라이버, NCCL/RCCL 같은 통신 스택, 클라우드 베어메탈 환경까지 포함해야 한다. "오픈 스펙"과 "상호운용 가능한 제품"은 같은 말이 아니다.
둘째, 운영 도구가 준비됐는가. 경로별 혼잡, 재전송, out-of-order, 장애 우회 이벤트를 볼 수 없다면 MRC는 문제를 해결하는 동시에 보이지 않는 복잡성을 만든다.
셋째, 특정 벤더 패브릭에 최적화된 성능과 개방성 사이의 균형이다. NVIDIA는 Spectrum-X에서, AMD는 Pensando 계열 AI NIC에서 구현과 검증을 강조한다.56 이는 성숙한 배포 경로라는 장점이지만, 인프라 팀은 스펙 준수 여부와 타 벤더 장비와의 운용 가능성을 별도로 확인해야 한다.
RDMA는 점점 '선'이 아니라 '스케줄러'가 된다
MRC의 더 큰 신호는 RDMA 전송 계층이 정적인 파이프에서 적응형 제어 시스템으로 바뀌고 있다는 점이다. 학계와 업계에서도 AI/ML 클러스터용 신뢰성 있는 다중 경로 전송 연구가 이어지고 있으며, STrack 논문은 하드웨어 오프로딩, 적응형 부하분산, 선택적 재전송, out-of-order 처리를 결합하면 RoCEv2 대비 성능 개선 여지가 있음을 시뮬레이션으로 보였다.7
따라서 MRC를 볼 때 핵심 질문은 "얼마나 빠른가"가 아니다. "혼잡·장애·불균형이 생겼을 때 GPU를 얼마나 덜 세우는가"다. 대규모 AI 클러스터를 직접 설계하거나 임대 용량의 품질을 평가해야 하는 팀이라면, 다음 네트워크 RFP에는 대역폭 숫자만이 아니라 다중 경로 전송, 혼잡 신호, 선택적 재전송, 장애 우회 시간, 관측 가능성을 함께 넣어야 한다.
MRC는 모든 클러스터의 필수 조건은 아니다. 하지만 frontier급 학습, 멀티플레인 패브릭, 장시간 고가 GPU 점유가 걸린 환경에서는 네트워크를 보는 기준을 바꿀 가능성이 크다. 이제 AI 네트워킹의 경쟁력은 "몇 Gbps인가"보다 "나쁜 경로를 얼마나 빨리 잊고, 좋은 경로를 얼마나 잘 나눠 쓰는가"에 가까워지고 있다.
참고
1Unlocking large scale AI training networks with MRC (Multipath Reliable Connection)
2Next Gen Networking Transport for Large Scale AI Training
3RoCE networks for distributed AI training at scale - Engineering at Meta
4Next Gen Networking Transport for Large Scale AI Training
5NVIDIA Spectrum-X MRC is the Custom RDMA Transport Protocol for Gigascale AI
6From Innovation to Deployment Ready: AMD Advances AI Networking at Scale with MRC
7STrack: A Reliable Multipath Transport for AI/ML Clusters - ADS
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.