Firefly의 최신 NVIDIA Jetson Orin 마더보드는 Jetson Orin 시리즈 코어 모듈을 탑재하고 있으며, 최대 157 TOPS의 컴퓨팅 성능을 제공합니다. 이는 대형 언어 모델의 개인 배포를 지원하며, 엣지 AI 애플리케이션 개발 및 배포를 위한 강력한 컴퓨팅 파워를 제공합니다.
고성능 엣지 컴퓨팅 시스템 온 칩
NVIDIA Jetson Orin NX 엣지 컴퓨팅 모듈(16GB 버전)을 탑재하고 있으며, 8코어 ARM CPU와 1024코어 NVIDIA Ampere 아키텍처 GPU 및 32개의 텐서 코어를 장착하고 있습니다. 이는 여러 개의 동시 AI 애플리케이션 파이프라인을 실행할 수 있으며, 강력한 AI 성능을 제공합니다.
최대 157 TOPS 컴퓨팅 성능
AIO-OrinNX와 AIO-OrinNano는 각각 157 TOPS와 67 TOPS의 컴퓨팅 성능을 제공하며, 현재 주요 AI 모델을 실행할 수 있고, 더 크고 복잡한 심층 신경망을 구현할 수 있으며, 객체 인식, 타겟 추적, 음성 인식 및 기타 비주얼 개발과 같은 기능을 제공하여 다양한 AI 애플리케이션 시나리오에 적합합니다.
대형 언어 모델의 개인 배포 지원
이는 LLaMa2, ChatGLM, Qwen과 같은 대형 언어 모델, ViT, Grounding DINO, SAM과 같은 대형 비주얼 모델을 비롯하여, AIGC 분야에서 Stable Diffusion V1.5 이미지 생성 모델 등의 현대적인 주류 AI의 개인 배포를 지원합니다.
최대 8K 비디오 디코딩 지원
AIO-OrinNX는 18채널 1080p30 H.265 비디오 디코딩을 지원하며, 최대 1x8K30 (H.265), 2x4K60 (H.265), 4x4K30 (H.265), 9x1080p60 (H.265), 18x1080p30 (H.265) 비디오 디코딩을 지원하여 다양한 AI 애플리케이션 시나리오의 요구를 충족시킵니다.
엣지에서의 생성적 AI
NVIDIA Jetson Orin 시리즈는 강력한 AI 컴퓨팅 기능, 대형 통합 메모리, 그리고 최신 생성적 AI 애플리케이션을 지원하는 종합적인 소프트웨어 스택을 제공하며, 초고효율 에너지로 Transformer 아키텍처 기반의 생성적 AI 모델의 빠른 추론을 가능하게 합니다. 이는 MLPerf에서 뛰어난 엣지 성능을 달성합니다.
AI 스택 및 생태계
Generative AI at the Edge와 NVIDIA Metropolis 및 Isaac 플랫폼으로 강화된 종합적인 AI 소프트웨어 스택 및 생태계를 통해 엣지 AI 및 로보틱스 개발을 민주화합니다. NVIDIA JetPack, Isaac ROS 및 참조 AI 워크플로를 통해 인하우스 AI 리소스를 사용하지 않고도 고급 기술을 제품에 통합할 수 있습니다.
광범위한 애플리케이션 시나리오
이는 기업 보안, 교통 관리, 공공 안전, 환경 보호, 스마트 시티, 홈 보안 등 다양한 제품과 분야에서 널리 사용됩니다.
