엔비디아 ( NVIDIA )는 Jetson Orin Nano 슈퍼개발자키트 를 출시했다. 새로운 소프트웨어 릴리스는 생성형 인공 지능 워크로드 성능을 초당 40조 작업(TOPS)에서 67TOPS로, 메모리 대역폭을 68GB/s에서 102GB/s로 향상시킨다. 그 결과 생성형 AI 모델의 성능이 최대 1.7배 향상되고 전력 소비는 25W에 불과하다.

Nano는 NVIDIA에서 생산한 더 작은 컴퓨터다. 이 엣지 컴퓨터는 배터리로 구동되는 모바일 로봇 공학에 적합하며 이제 그 어느 때보다 작고 저렴하다.

NVIDIA는 로보틱스 개발자가 시스템을 더 스마트하고 더 잘 활용할 수 있도록 엣지 컴퓨팅의 성능 한계를 계속 밀어붙이고 있다고 말했다.

다양한 AI 워크로드에 대한 ORIN Nano 성능을 보여주는 그래프. Jetsen Orin Nano Super는 이전 세대의 기준선보다 향상된 성능을 제공한다.(출처: 엔비디아)

Jetson Orin Nano Super는 LLM, VLM 실행할 수 있어

개발자 키트는 JetsonOrinNano( 젯슨오린나노 ) 8GB 시스템 온 모듈(SoM)과 엣지 AI 애플리케이션 프로토타이핑을 위한 레퍼런스 캐리어 보드로 구성된다. SoM은 텐서 코어와 6코어 Arm CPU가 있는 NVIDIA Ampere 아키텍처 그래픽 처리 장치(GPU)를 갖추고 있다.

NVIDIA는 이 아키텍처가 여러 동시 AI 애플리케이션 파이프라인과 고성능 추론을 용이하게 한다고 밝혔다. 이전 버전보다 더 높은 해상도와 프레임 속도를 위해 최대 4대의 카메라를 지원할 수 있다.

Nano Super는 대규모 언어 모델(LLM) 및 비전 언어 모델(VLM)에서 비전 트랜스포머에 이르기까지 거의 모든 생성형 AI 모델을 실행할 수 있다. 기존 Orin 개발자를 위한 가장 좋은 소식은 기존 고객이 NVIDIA 웹사이트 또는 GitHub 리포지토리에서 제공되는 소프트웨어 업데이트를 통해 성능을 높일 수도 있다는 것이다.

엔비디아는 지난 11월, 휴머노이드를 포함한 로봇 개발을 가속화하기 위해 로봇 학습을 위한 개방형 AI와 시뮬레이션 도구를 추가했다.