다이나모 배포·검증 절차 공개…엔비디아($NVDA) AICR 활용
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 엔비디아는 AICR로 기존 쿠버네티스 클러스터에 다이나모 추론 환경을 구성하고 검증하는 절차를 소개했다.
- 엔비디아(NVIDIA·$NVDA)가 기존 쿠버네티스 클러스터에 다이나모 분산 추론 환경을 배포하고 검증하는 절차를 공개했다.
- 엔비디아는 10월 30일 기술 블로그에서 AI 클러스터 런타임(AICR)을 활용한 배포 흐름을 설명했다.
본문
엔비디아는 AICR로 기존 쿠버네티스 클러스터에 다이나모 추론 환경을 구성하고 검증하는 절차를 소개했다. 엔비디아(NVIDIA·$NVDA)가 기존 쿠버네티스 클러스터에 다이나모 분산 추론 환경을 배포하고 검증하는 절차를 공개했다. 엔비디아는 10월 30일 기술 블로그에서 AI 클러스터 런타임(AICR)을 활용한 배포 흐름을 설명했다. 다이나모(Dynamo)는 여러 GPU 워커에 걸쳐 모델 서빙을 조정하는 분산 추론 프레임워크이며, AICR은 이를 지원하는 구성요소와 인프라를 함께 설정하는 도구다. AICR 레시피에는 구성요소 버전과 설정, 호환 조건, 검증 항목이 기록된다. AICR은 쿠버네티스 배포 환경과 GPU, 운영체제를 식별해 해당 조건에 맞는 다이나모 레시피를 만든다.
레시피에는 엔비디아 GPU 오퍼레이터, Node Feature Discovery, DRA GPU 드라이버, KAI Scheduler, Grove, 모니터링용 프로메테우스(Prometheus)와 다이나모 플랫폼 등이 포함된다.
엔비디아가 제시한 아마존 EKS와 GB200·GB300 NVL72 환경의 예시는 AICR v1.0.0을 기준으로 한다. 이 구성은 다이나모 플랫폼 차트 1.4.2, GPU 오퍼레이터 26.7.1, DRA GPU 드라이버 0.5.0을 지정했다. 이번 엔비디아 발표는 쿠버네티스에서 다이나모 환경을 구성하고 검증하는 절차에 초점을 맞췄다. AICR v1.2.0-rc0 검증 가이드의 기본 dynamo-router 모드는 least-loaded 방식이다. 다이나모의 AICR 설치 가이드는 쿠버네티스 1.34 이상과 DRA를 요구하며, AICR v1.1.2 기준 다이나모 플랫폼 차트 1.4.2를 지정한다.