Intel의 "Gaudi 3" AI 가속기 칩은 Nvidia의 H100에 돈을 벌 수 있는 기회를 제공할 수 있습니다.
- Intel이 2024년의 Vision 2024 이벤트에서 새로운 AI 가속 칩인 'Gaudi 3'를 발표했습니다.
- Gaudi 3는 큰 언어 모델을 실행할 때 상당한 성능을 자랑하며, Nvidia의 H100에 대한 대안으로 제시됩니다.
- Intel은 OpenAI의 GPT-3 175B LLM 및 Meta의 Llama 2 7-billion parameter 버전에 대해 H100 대비 50% 빠른 학습 시간을 주장합니다.
- 인퍼런스(학습된 모델을 실행하여 출력을 얻는 것)에 있어서도 Llama 2와 Falcon 180B 모델에 대해 H100보다 50% 빠른 성능을 제공한다고 Intel은 주장합니다.
- Nvidia의 H100은 시장 점유율이 높지만, H200 및 Blackwell B200 같은 더 강력한 AI 가속 칩이 발표되었음에도 불구하고 아직 출시되지 않았습니다.
- AI 모델 학습을 위한 칩에 대한 접근성 경쟁이 치열해진 가운데, Microsoft, Meta, OpenAI(소문에 의하면) 등 여러 기술 회사가 자체 AI 가속 칩 설계를 추구하고 있습니다.
- Gaudi 3는 이전 모델인 Gaudi 2의 아키텍처를 기반으로 하며, 두 개의 동일한 실리콘 다이가 고대역폭 연결로 연결되어 있습니다.
- Gaudi 3는 8비트 부동 소수점 인프라를 사용하여 AI 계산 성능을 Gaudi 2의 두 배로, BFloat 16-번호 형식을 사용하는 계산에는 네 배로 향상시켰다고 Intel은 주장합니다.
- HBM2e 메모리를 사용하며, 데이터 센터의 전력 효율성을 강조합니다. Intel은 Gaudi가 다른 아키텍처에 비해 상당히 적은 메모리 대역폭이 필요하다고 주장합니다.
- Gaudi 3에 대한 가격이 공개되지 않았지만, 경쟁력 있는 가격을 유지한다면 H100에 대한 매력적인 대안이 될 수 있습니다.
4arstechnica.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.