Cerebras CS-4: 칩이 아닌 랙 전체로 성능을 높이는 방법
AI 가속기의 세대교체는 흔히 미세 공정이나 새로운 칩에서 시작한다. Cerebras CS-4는 5nm WSE-3를 유지하면서 전력 공급, 냉각, 입출력 구조를 함께 개선해 CS-3 대비 성능을 두 배로 높인 랙 규모 AI 가속기다.12
이 접근이 보여주는 핵심은 명확하다. AI 시스템의 실제 성능은 칩 사양뿐 아니라 칩을 얼마나 안정적이고 효율적으로 구동하느냐에 따라 달라진다.
성능 향상의 출발점은 시스템 설계
Cerebras CS-4는 컴퓨팅·전력·냉각 장치를 하나의 랙에 통합하며, 단일 랙에 웨이퍼 세 장을 탑재한다. 각 WSE-3 Turbo는 4조 개의 트랜지스터와 90만 개의 AI 코어를 갖추고, 250PFLOPS의 연산 성능과 초당 43.2페타바이트의 온칩 메모리 대역폭을 제공한다.1
성능 향상의 중심에는 전력 공급 방식이 있다. CS-4는 전력 변환 장치를 프로세서에서 0.5mm 떨어진 위치에 배치한다. 일반적인 GPU 보드에서 두 장치 사이의 거리가 약 50mm인 것과 비교하면 100분의 1 수준이다.1
전력 변환 장치를 프로세서 가까이에 두면 보드 수준의 전력 손실을 줄이고 더 높은 동작 주파수를 지원할 수 있다. 즉, 새로운 칩을 도입하기보다 기존 WSE-3가 더 높은 성능을 내도록 주변 시스템을 재설계한 것이다.3
전력·냉각·입출력을 하나의 모듈로 통합
이 구조를 구현하는 핵심 장치는 Wafer-Scale Backpack이다. 전력 변환, 직접 액체 냉각, 고속 I/O, 제어 전자장치를 하나의 3차원 모듈로 구성한다.3
통합 설계는 제조 복잡성도 낮춘다. Wafer-Scale Backpack은 이전 세대 시스템보다 부품 수가 50% 적고, CS-4 백팩 제조 공정의 자동화 비율은 이전보다 60% 높다.3 이는 성능뿐 아니라 조립과 운영을 포함한 시스템 전체의 효율을 함께 개선하려는 접근이다.
빠른 처리량과 메모리 용량을 함께 봐야 한다
CS-4는 사용자당 최대 초당 4,400개의 토큰을 처리한다. 다만 웨이퍼당 온칩 메모리 용량은 44GB다.2 따라서 시스템을 평가할 때는 높은 연산 성능과 메모리 대역폭만 볼 것이 아니라, 모델 크기와 문맥 길이에 필요한 총메모리 용량도 함께 확인해야 한다.
Cerebras는 역할을 나누는 분리형 추론도 지원한다. 프롬프트를 처리하는 ‘프리필’은 GPU나 ASIC이 맡고, 답변을 한 토큰씩 생성하는 ‘디코드’는 CS-4가 담당하는 방식이다.3 워크로드의 각 단계에 적합한 가속기를 배치해 처리량과 지연 시간을 조정하는 접근으로 이해할 수 있다.
요약: Cerebras CS-4가 제시하는 평가 기준
Cerebras CS-4의 의미는 같은 칩을 더 높은 주파수로 구동했다는 데 그치지 않는다. 프로세서 가까이에 전력을 공급하고, 직접 액체 냉각과 고속 입출력을 통합해 랙 전체를 하나의 가속 시스템으로 설계했다는 점이 중요하다.
AI 인프라를 평가할 때는 다음 요소를 함께 살펴야 한다.
칩의 연산 성능과 메모리 대역폭
모델과 문맥을 수용할 수 있는 메모리 용량
전력 전달 과정의 손실과 냉각 효율
랙당 처리량과 사용자별 지연 시간
부품 수, 제조 자동화, 배치 및 운영 복잡성
결국 Cerebras CS-4는 AI 성능 경쟁의 단위가 개별 칩에서 전력·냉각·입출력을 포함한 랙 전체로 확장되고 있음을 보여준다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.