엔비디아, H100 GKE 추론 레시피에 AI 작업 목록 기본 탑재
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- AI 클러스터 런타임(AI Cluster Runtime·AICR) 1.2.0은 H100 기반 구글 쿠버네티스 엔진(Google Kubernetes Engine·GKE) 추론 레시피 두 종에 k8s-aibom을 기본 포함한다.
- 엔비디아 (NVIDIA·$NVDA)가 GPU 기반 쿠버네티스 환경의 구성 검증 도구에 AI 작업 정보를 기록하는 오픈소스 도구 k8s-aibom을 통합했다.
- 이번 기능은 클러스터 설정을 관리하는 AICR 레시피에 AI 작업 인벤토리를 추가하는 방식이다.
본문
AI 클러스터 런타임(AI Cluster Runtime·AICR) 1.2.0은 H100 기반 구글 쿠버네티스 엔진(Google Kubernetes Engine·GKE) 추론 레시피 두 종에 k8s-aibom을 기본 포함한다. 엔비디아 (NVIDIA·$NVDA)가 GPU 기반 쿠버네티스 환경의 구성 검증 도구에 AI 작업 정보를 기록하는 오픈소스 도구 k8s-aibom을 통합했다. 이번 기능은 클러스터 설정을 관리하는 AICR 레시피에 AI 작업 인벤토리를 추가하는 방식이다. k8s-aibom은 그 환경에서 지원 대상 AI 작업을 찾아 어떤 모델과 추론 소프트웨어가 배포됐는지 목록으로 만든다. AI 작업 목록 기능은 H100 GPU를 사용하는 GKE 추론 레시피와 이를 상속한 Dynamo 레시피에 기본 포함된다. 다른 GKE 레시피에는 생성 단계에서 선택해 추가할 수 있으며, AICR의 모든 레시피에 자동 적용되지는 않는다.
목록에는 감지된 모델, 추론 런타임, 에이전트, 검색증강생성(RAG) 구성요소와 관련 속성이 담긴다. k8s-aibom은 정보를 CycloneDX 1.6 형식의 기계학습 구성 목록(ML-BOM)으로 만든다. 목록은 관리자가 선택한 네임스페이스에 속한 지원 작업 가운데 인식 가능한 AI 신호가 있을 때 생성된다. 상태가 Ready=True로 표시돼도 이미지 다운로드가 끝나지 않았을 수 있어, 목록 생성이나 준비 상태만으로 작업 실행 성공을 판단할 수 없다. AI 작업 인벤토리는 구성 정보를 기록하는 수단이며, 규제 요건 충족을 확인하는 인증은 아니다. CPU 전용 노드에서 작업 파드를 대기시킨 채 15분간 관찰한 결과 API 서버 요청은 분당 약 4회였고, 컨트롤러의 평균 CPU 사용량은 2.2밀리코어, 메모리 사용량은 28~34MiB였다.