Cloud Run GPUs, 이제 GA에서는 모든 사람이 AI 작업을 쉽게 수행할 수 있습니다.
- Cloud Run의 NVIDIA GPU 지원이 일반적으로 사용 가능하게 되어 AI 작업을 수행하기 더 쉽게 만듦.
- 비용 효율적으로 GPU 및 CPU 자원을 초 단위로 결제할 수 있음.
- 요청이 없을 때 자동으로 GPU 인스턴스를 0으로 축소하여 이동 비용 최소화.
- 고속 시작과 확장을 제공하며, 단 5초 안에 GPU 및 드라이버가 설치된 인스턴스로 전환 가능.
- HTTP와 WebSocket 스트리밍 지원으로 인터랙티브한 애플리케이션 구축 가능.
- Cloud Run의 GPU 지원은 GPU 가속 애플리케이션을 보다 간단하고 빠르며 비용 효율적으로 만듦.
- NVIDIA L4 GPU를 모든에게 사용할 수 있게 되어, 쿼터 요청 없이 즉시 GPU 가속을 사용할 수 있음.
- 서비스 수준 계약(SLA)로 신뢰성과 가동 시간을 보장함.
- 5개의 Google Cloud 지역에서 Cloud Run GPU를 사용할 수 있으며, 더 많은 지역이 추가될 예정.
- Cloud Run은 여러 지역에 서비스를 간단히 배포할 수 있도록 함.
- 라이브 데모에서 4분 만에 0에서 100개의 NVIDIA GPU로 스케일링을 보여줌.
- Cloud Run 작업에서 GPU 사용이 가능해져서 배치 처리 및 비동기 작업의 새로운 사용 사례를 열어줌.
- 모델 미세 조정, 대규모 배치 AI 추론 작업, 배치 미디어 처리 작업 등이 가능.
- vivo, Wayfair, Midjourney 등 초기 사용자가 Cloud Run GPU의 이점에 대해 긍정적으로 평가함.
- Cloud Run GPU를 사용하여 차세대 애플리케이션을 개발할 수 있음. 문서를 참조하여 시작 가능.
4cloud.google.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.