파이썬 DLA 추론 예제 공개…젯슨 AGX 오린서 실행
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 엔비디아가 Jetson AGX Orin에서 파이썬으로 DLA 추론을 구성하는 개발자 예제를 공개했다.
- 엔비디아 (NVIDIA·$NVDA)가 13일 Jetson AGX Orin에서 파이썬으로 DLA 추론을 구성하는 개발자 예제를 공개했다.
- cuda-bindings 13.3.0에 도입된 이 파이썬 계층은 기존 cuDLA C++ API를 파이썬 프로그램에서 호출하도록 한다.
본문
엔비디아가 Jetson AGX Orin에서 파이썬으로 DLA 추론을 구성하는 개발자 예제를 공개했다. 엔비디아 (NVIDIA·$NVDA)가 13일 Jetson AGX Orin에서 파이썬으로 DLA 추론을 구성하는 개발자 예제를 공개했다. cuda-bindings 13.3.0에 도입된 이 파이썬 계층은 기존 cuDLA C++ API를 파이썬 프로그램에서 호출하도록 한다. 신경망 계산 자체는 Jetson AGX Orin의 DLA 하드웨어에서 이뤄지므로, 파이썬 코드가 DLA에서 직접 실행되는 것은 아니다. 예제는 하나의 CUDA 스트림에서 GPU 전처리, DLA 추론, GPU 후처리를 차례로 배치한다. TensorRT는 모델을 DLA용 파일로 만드는 데 쓰이고, 실행 단계에는 JetPack에 포함된 libcudla.so 런타임이 필요하다.
엔비디아는 이번 릴리스에서 별도 NvSci 버퍼와 동기화 프리미티브가 필요한 cuDLA 독립 실행 모드는 지원하지 않는다고 밝혔다.
엔비디아는 13일 기술 블로그에서 지원 가능한 연산을 DLA에 맡기면 전력 효율을 높일 수 있고 GPU 자원을 다른 작업에 활용할 수 있다고 밝혔다. 본지는 앞서 Jetson Orin Nano에서 네모트론 3.5 볼트 E4B를 구동할 때의 메모리 사용량을 엔비디아 공개 측정치와 함께 다뤘다 . TensorRT 문서도 Jetson AGX Orin의 DLA 지원 조건으로 JetPack 7.2.2 이상을 제시한다. 기술 블로그의 설치 안내는 파이썬 3.10을 최소 버전으로 적었다. 다만 cuda-bindings 13.5.0 릴리스 노트에는 파이썬 3.10 지원 종료가 기록돼 있어, 설치할 때 패키지 버전별 지원 범위를 대조해야 한다.