엔비디아 젯슨 오린 나노 슈퍼 - 엔비디아의 새로운 249달러짜리 소형 AI용 컴퓨터
엔비디아 젯슨 오린 나노 슈퍼 (Nvidia Jetson Orin Nano Super)
Nvidia Jetson Orin Nano Super는 엔비디아가 새롭게 출시한 저렴하고 강력한 생성형 AI를 위한 컴퓨터 개발자 키트입니다. 이 제품은 특히 AI 개발자, 취미인, 학생들에게 적합하며, 각종 생성형 AI 애플리케이션을 엣지에서 효과적으로 실행할 수 있는 성능을 제공합니다.
개요
Jetson Orin Nano Super는 소형이면서도 강력한 컴퓨터로, 기존의 Jetson Orin Nano Developer Kit에 비해 최대 1.7배 향상된 AI 성능을 제공합니다. 가격 또한 이전 모델의 $499에서 $249로 대폭 인하되어 많은 사용자가 접근할 수 있습니다.
젯슨 나노 시리즈는 2019년 처음 발표된 이후로 꾸준히 개발되고 있습니다. AI 프로세싱을 위한 라즈베리 파이로 생각해 보시면 됩니다.
특징 및 사양
주요 특징
AI 성능: Jetson Orin Nano Super는 67 TOPS의 AI 성능을 제공하며, 이는 이전 모델보다 70% 향상된 수치입니다.
이는 초 당 67조 개의 연산을 처리할 수 있다는 의미입니다. 이해하기 쉽게 비교를 해보면 애플의 M4가 38 TOPS 입니다. NVIDIA의 H100 이 3026 TOPS 입니다. (참고로 H100의 가격은 25000불.)
메모리 대역폭: 메모리 대역폭도 50% 증가하여 102 GB/s에 도달합니다.
CPU 속도: CPU 클럭 속도가 1.5GHz에서 1.7GHz로 향상되었습니다.
가격: 가격은 $499에서 $249로 인하되어 더욱 저렴해졌습니다.
소프트웨어 업그레이드: 기존 Jetson Orin Nano Developer Kit 사용자는 소프트웨어 업그레이드를 통해 동일한 성능 향상을 경험할 수 있습니다.
사양
Jetson Orin Nano Super는 NVIDIA Ampere 아키텍처 GPU, 텐서 코어, 6코어 Arm CPU를 포함한 Jetson Orin Nano 8GB 시스템 온 모듈(SoM)과 참조 캐리어 보드로 구성되어 있습니다. 이는 여러 가지 AI 애플리케이션을 프로토타입으로 제작하는 데 이상적이며, 최대 4개의 카메라를 지원합니다.
GPU: NVIDIA Ampere 아키텍처, 1,024 CUDA 코어, 32 텐서 코어
CPU: 6코어 Arm Cortex-A78AE v8.2 64-bit CPU @ 1.7 GHz
메모리: 8GB 128-bit LPDDR5 @ 102 GB/s
저장소: SD 카드 및 NVMe SSD 인터페이스 제공
전원 모드: 7W, 15W, 25W 모드 지원
네트워킹: 기가비트 이더넷, M.2 Key-E 슬롯을 통한 선택적 WiFi 및 Bluetooth 지원
USB 포트: 4x USB 3.2 Gen2 Type-A 포트, USB Type-C 포트
활용 분야
생성형 AI
Jetson Orin Nano Super는 다양한 생성형 AI 모델을 효율적으로 실행할 수 있어, LLM(대형 언어 모델) 기반 챗봇 생성, 시각적 AI 에이전트 구축, AI 기반 로봇 배포 등 다양한 활용 가능성을 제공합니다.
로봇공학
로봇공학 분야에서도 Jetson Orin Nano Super는 큰 역할을 할 수 있습니다. 고성능 AI를 이용하여 이동성, 그리기, 시각 등 중요한 기능을 지원하며, 제조, 소매, 농업, 물류, 헬스케어 등의 산업에 로봇을 구축하는 데 기여할 수 있습니다.
비전 AI
NVIDIA Metropolis를 사용하여 시각 데이터를 처리하고, 다양한 산업에서 효율성과 안전성을 향상시킵니다. 마찰 없는 소매, 재고 관리, 스마트 시티 트래픽 관리, 공장 검사, 헬스케어 등의 애플리케이션에 활용할 수 있습니다.
결론
이를 활용해서 각 영역에서 AI 기반 애플리케이션이나 로봇의 개발이 한층 더 활성화될 것으로 기대됩니다.
