국내 AI 4종, 다이나모 배포 레시피 공개…B200 구성 제시
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 엔비디아가 국내 AI 모델 4종을 위한 다이나모 배포 레시피를 공개했다.
- B200 통합형·분리형 구성과 일부 성능 지표를 담았지만, 벤치마크 조건은 모델별로 다르다.
- 모델별로 B200 GPU 수와 통합형·분리형 실행 구성을 안내한다.
본문
엔비디아가 국내 AI 모델 4종을 위한 다이나모 배포 레시피를 공개했다. B200 통합형·분리형 구성과 일부 성능 지표를 담았지만, 벤치마크 조건은 모델별로 다르다. 모델별로 B200 GPU 수와 통합형·분리형 실행 구성을 안내한다. 엔비디아(NVIDIA·$NVDA)는 8일 공식 블로그에서 SK텔레콤($017670)의 A.X K2, LG AI연구원(LG AI Research)의 K-EXAONE 2.0, 업스테이지의 Solar Open 2, Motif Technologies의 Motif-3용 레시피를 공개한다고 밝혔다. 다이나모(Dynamo)는 여러 노드에서 대형 모델을 서빙하는 오픈소스 추론 프레임워크다. A.X K2 레시피는 통합형에 B200 8개, 분리형에 12개를 배치한다. 다이나모 레시피 목록과 모델별 문서는 K-EXAONE 2.0과 Solar Open 2에 B200 4개·8개 구성을 제시한다.
B200 4개 통합형의 사용자 출력 속도 중앙값은 초당 51.4토큰, 첫 토큰 지연시간 중앙값은 291ms였다.
B200 8개 분리형은 사용자 출력 속도 중앙값이 초당 54.9토큰, 첫 토큰 지연시간 중앙값이 2,230ms였다. A.X K2 문서가 제시하는 배포 전제에는 다이나모 플랫폼이 설치된 쿠버네티스 클러스터와 공유 스토리지가 포함된다. 이번 발표는 모델별 배포 레시피 공개를 다뤘으며, 실제 고객사의 운영 적용 규모를 발표한 것은 아니다. 당시 보도는 인프라 구성과 검증 흐름을 다뤘고, 이번 발표는 국내 AI 모델 4종에 맞춘 GPU 배치와 추론 설정을 제시했다.