Meta의 차세대 MTIA 칩은 AI 성능을 3배로 높여 Nvidia에 대한 의존도를 줄입니다.
- 메타는 자체 개발하는 차세대 AI 칩 MTIA의 세부 정보를 공개했습니다.
- 새로운 MTIA 칩은 성능이 전작 대비 최대 3배 향상되었으며, 이미 메타의 광고 및 순위 결정 프로세스에 사용되고 있습니다.
- 메타는 MTIA의 새 버전이 계산 및 메모리 대역폭을 두 배로 늘리고, 메타의 업무 부하와 긴밀하게 연결되도록 설계되었다고 밝혔습니다.
- 이 칩은 메타의 광고 순위 및 추천 모델에 최적의 처리 성능, 대역폭 및 저장 용량의 균형을 맞추는 데 중점을 두고 있습니다.
- 메타는 소프트웨어 수준에서 최적화를 진행하여, MTIA 하드웨어를 위한 "고성능 코드"를 생성하는 저수준 컴파일러 Triton-MTIA를 개발했습니다.
- 초기 결과에 따르면, 새로운 칩은 첫 번째 세대 칩보다 네 가지 핵심 모델의 성능을 이미 세 배 향상시켰습니다.
- 메타는 전체 스택을 제어함으로써, 상업용 GPU보다 더 높은 효율을 달성할 수 있습니다.
- 메타는 자체 AI 칩 개발에도 불구하고 Nvidia의 대형 고객 중 하나로 남아 있으며, 올해 말까지 Nvidia H100 GPU 340,000개를 포함하여 총 600,000개의 그래픽 카드를 배치할 계획입니다.
- 구글도 새 버전 TPU v5p를 발표하여, 이전 세대보다 FLOPS가 두 배 이상, 고속 메모리가 세 배 더 많은 것을 제공합니다. 구글은 이 칩이 교육, 미세 조정 및 추론을 지원하는 범용 AI 프로세서라고 말합니다.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.