표준이 무기가 되는 순간
AI 데이터센터 시장은 오랫동안 ‘누가 더 빠른 칩을 만드느냐’의 경쟁으로 이해되어 왔다. 하지만 인프라가 엑사스케일 규모로 확장되는 국면에서는 게임의 규칙이 달라진다. 수만 개의 가속기를 하나로 엮어내는 연결 기술, 메모리 계층의 설계 철학, 그리고 생태계의 개방성 같은 요소가 연산 성능만큼이나 중요한 변수로 부상한다. AMD Helios AI rack scale system은 바로 이 지점에서 시장을 흔들고 있다.
기존 AI 서버 확장 방식은 고성능 GPU를 여러 대 묶고 독자적인 인터커넥트로 연결하는 것이 일반적이었다. 이 접근은 강력하지만, 하드웨어부터 소프트웨어까지 하나의 공급자에게 깊숙이 종속되는 구조를 낳는다. 대규모 AI 워크로드를 운영하는 클라우드 사업자 입장에서는 치명적인 리스크다. 공급망 단일화는 협상력을 약화시키고 기술 로드맵을 외부에 의존하게 만든다.
개방형 아키텍처의 실체
AMD Helios AI rack scale system이 주목받는 이유는 성능 수치 때문만이 아니다. OCP Open Rack Wide, UALink, Ultra Ethernet Consortium 같은 개방형 산업 표준을 전면에 내세운 점이 더 큰 의미를 갖는다. 특정 벤더의 독자 규격이 아닌, 업계가 함께 정의한 인터페이스로 시스템을 조립했다는 것은 고객에게 ‘잠금 효과’ 없는 선택지를 제공하겠다는 선언이다.
AMD는 Advancing AI 콘퍼런스에서 이 시스템의 배포 계획을 가진 기업으로 OpenAI, Meta, Oracle, Anthropic, 그리고 Microsoft를 공개했다. 2025년 처음 발표되고 2026년 1월 CES에서 실물이 전시된 지 1년여 만에 여러 하이퍼스케일러가 참여 의사를 밝힌 셈이다. 이들의 공통된 니즈는 단순하다. AI 훈련과 추론에 필요한 막대한 컴퓨팅 자원을 조달하되, 하드웨어 공급자 교착 상태에서 벗어나고 싶다는 것이다.
Helios는 이런 요구를 구체화한 설계다. 72개의 AMD Instinct MI455X GPU, AMD EPYC ‘Venice’ CPU, 그리고 UALink 기반의 AMD Pensando Vulcano AI NIC를 단일 랙에 통합했다. 중요한 것은 이 구성 요소들이 각각의 전용 규격이 아니라 표준화된 인터페이스로 연결된다는 점이다. UALink over Ethernet(UAloE) 기술은 72개의 GPU를 하나의 시스템처럼 묶어주며, 4개의 스케일업 카트리지가 매끄럽게 협력하도록 만든다.
숫자 너머의 설계 철학
스펙 시트에 적힌 수치들을 들여다보면 AMD가 어디에 설계 역량을 집중했는지 분명해진다. AMD Helios AI rack scale system은 FP4 연산 2.9 EF, FP8 연산 1.4 EF의 AI 연산 성능을 제공하며 업계 최고 수준인 31TB의 HBM4 메모리를 장착한다. GPU당 메모리 대역폭은 23.3 TB/s에 달한다. 스케일업 대역폭은 최대 260 TB/s, 이더넷 기반 스케일아웃 대역폭은 43 TB/s로 경쟁 제품 대비 50% 이상 높다.
이 숫자들이 말해주는 것은 AMD가 연산 속도보다 메모리 용량과 데이터 이동 효율성에 더 무게를 실었다는 점이다. 초거대 언어 모델의 파라미터가 수조 단위로 늘어나는 상황에서, GPU가 아무리 빨라도 데이터를 제때 공급하지 못하면 활용률이 떨어진다. Helios는 메모리 풀을 넉넉하게 확보하고 노드 간 데이터 이동을 가속함으로써 이 문제를 정면으로 돌파하려는 전략이다.
이런 접근은 Nvidia가 추구하는 방향과는 여러 면에서 갈린다. Nvidia는 NVLink와 NVSwitch라는 독자적인 스케일업 기술로 극도로 최적화된 생태계를 구축해 왔다. 반면 Helios는 개방형 표준 위에서 비슷한 수준의 대역폭을 구현하면서도 상호운용성을 포기하지 않는다. 두 철학 중 어느 쪽이 대규모 데이터센터에서 장기적으로 우위를 점할지는 아직 결론 나지 않은 질문이다.
가격과 시장 지형의 변화
올해 하반기 출하를 앞둔 AMD Helios AI rack scale system의 랙 가격은 약 500만~550만 달러로 추정된다. 이는 경쟁 제품 대비 높은 수준이다. 더 비싼 가격표를 받아들일 구매자는 결국 총소유비용과 공급망 다변화라는 더 큰 그림을 보는 기업들이다. 실제로 AMD의 데이터센터 매출은 2026년 1분기에 전년 동기 대비 57% 증가한 57억 8천만 달러를 기록했고, Helios를 중심으로 2027년부터 수백억 달러 규모의 AI 매출을 예상하고 있다. 시장 점유율이 현재 한 자릿수 초반에서 20%대로 올라설 것이라는 관측도 나온다.
물론 장애물은 뚜렷하다. Nvidia의 CUDA 생태계는 지난 10년간 축적된 소프트웨어 자산과 개발자 커뮤니티로 무장하고 있다. AMD는 ROCm 플랫폼을 오픈소스로 풀고 PyTorch, TensorFlow, JAX 등 주요 프레임워크를 네이티브 지원하며 이 격차를 좁히고 있지만, 대규모 배포 환경에서 안정성과 운영 편의성을 입증하는 데는 시간이 걸릴 수밖에 없다.
앞으로 주목할 세 가지 변수
시장이 지켜볼 지점은 분명하다. 첫째, 대규모 클러스터에서 UALink over Ethernet의 실성능과 안정성이다. 개방형 표준의 이론적 장점이 실제 운영 환경에서도 재현되는지가 초기 레퍼런스 사이트를 통해 검증될 것이다. 둘째, AMD가 함께 발표한 차세대 CPU인 Venice-X다. 2027년 출시를 목표로 하는 이 프로세서가 Helios의 컴퓨팅 패브릭과 얼마나 긴밀하게 통합되느냐에 따라 시스템의 완성도가 결정된다. 셋째, 소프트웨어 생태계의 성숙 속도다. ROCm이 CUDA의 대안으로 자리 잡으려면 프레임워크 호환성뿐 아니라 디버깅 도구, 프로파일러, 라이브러리 최적화까지 종합적인 경험을 제공해야 한다.
AI 인프라 시장은 이제 단일 공급자 중심의 질서에서 개방형 표준을 둘러싼 연합 구도로 재편되는 변곡점에 서 있다. AMD Helios AI rack scale system은 이 흐름의 중심에서 하나의 기준점이 될 가능성이 크다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.