독파모 3사, 엔비디아와 협력 확장...추론 최적화 기술도 적극 활용

본문

[디지털투데이 손슬기 기자] 정부 독자 AI 파운데이션 모델(독파모) 개발사들이 엔비디아 플랫폼·소프트웨어 활용 사례를 공유했다. 엔비디아도 국내 AI 모델에 맞춘 추론 최적화 기술을 공개하며 소버린 AI 생태계 협력을 확대하고 있다.9일 서울 삼성동 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'의 'K-AI 프런티어 빌더스' 패널 토론에는 LG AI연구원, SK텔레콤, 업스테이지 등 독파모 3차수에 진출한 3개사 연구진이 참여했다.이날 엔비디아 AI 추론 최적화 소프트웨어인 '다이나모(Dynamo)'가 주요 기술로 언급됐다 9일 서울 삼성동 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'의 'K-AI 프런티어 빌더스' 패널 토론에는 LG AI연구원, SK텔레콤, 업스테이지 등 독파모 3차수에 진출한 3개사 연구진이 참여했다. 이날 엔비디아 AI 추론 최적화 소프트웨어인 '다이나모(Dynamo)'가 주요 기술로 언급됐다.

여러 GPU 서버에 AI 추론 작업을 효율적으로 분배하고 연산 결과를 재활용해 처리 속도와 자원 활용률을 높이는 기술이다. LG AI연구원도 엔비디아와의 추론 최적화 기술 협력 경험을 공유했다. 조현직 LG AI연구원 엑사원랩 팀장은 "단일 서버가 아니라 어느 서버에 현재 쿼리를 라우팅할 것인가가 중요하다"며 "앞으로 대규모 서비스로 가면서 라우팅 역량이 굉장히 중요해질 것"이라고 말했다. 독파모 개발사들은 추론뿐 아니라 AI 학습 데이터 처리와 모델 학습 과정에도 엔비디아 기술을 활용하고 있다. 그는 "모델 학습 속도가 10%만 빨라져도 GPU 사용시간으로 따지면 6일 정도 빨라지고 돈으로 따지면 6억원"이라고 설명했다. LG AI연구원은 대형 AI 모델의 학습과 변환을 지원하는 엔비디아 '메가트론 브릿지(Megatron Bridge)' 활용 사례도 소개했다.

엔비디아는 이날 SKT 'A.X K2', LG AI연구원 'K-엑사원 2.0', 업스테이지 '솔라 오픈 2', 모티프테크놀로지스 '모티프-3' 등 국산 AI 모델 4종에 맞춘 다이나모 최적화 기술을 공개했다. 엔비디아가 공개한 자체 시험 결과에 따르면 B200 GPU 환경에서 최적화 기술 적용 후 GPU당 출력 처리량은 기존 대비 A.X K2가 1.72배, K-엑사원 2.0이 1.58배, 솔라 오픈 2가 1.43배로 증가했다. 한편 이날 엔비디아 AI 데이 서울 2026에서는 엔비디아·SK텔레콤·리벨리온 3자 간 'NV링크 퓨전' 협력 업무협약도 체결됐다.