GPU 활용률 절반 이하 79%…70%는 플랫폼 도입 계획

본문

벤처비트 인텔리전스의 7~9월 설문에서 GPU 활용률을 답한 응답자 218명 중 172명이 장비가 절반 이하로 가동된다고 답했다. 이 가운데 120명은 12개월 안에 AI 컴퓨팅 플랫폼을 도입·추가·교체할 계획이라고 밝혔다. GPU 활용률을 답한 설문 응답자 218명 가운데 172명(79%)이 장비가 절반 이하의 시간 동안 가동된다고 답했다. 이들 중 120명(70%)은 향후 12개월 안에 AI 컴퓨팅 플랫폼을 새로 도입하거나 추가·교체할 계획이라고 밝혔다. 벤처비트 인텔리전스(VentureBeat Intelligence)는 2026년 7~9월 세 차례 실시한 VB Pulse 설문을 합산해 이 결과를 공개했다. GPU 활용률이 50%를 넘는 응답자 46명 가운데서도 34명(74%)이 12개월 내 플랫폼 도입·추가·교체를 계획했다. 플랫폼 재검토 계획은 낮은 활용률 응답자에게만 나타난 것이 아니다.

플랫폼을 계획한 저활용 응답자 120명 중 108명(90%)은 검토 대상에 클라우드 플랫폼이나 AI 모델 제공업체를 포함했고, 자체 GPU 클러스터나 직접 관리하는 오픈소스 환경을 꼽은 응답자는 9명(8%)이었다. 9월 단독 설문에서는 실제 업무에 AI를 사용하고 GPU 활용률 수치를 제시한 68곳 중 55곳(81%)이 활용률을 50% 이하로 보고했다. 이 55곳 가운데 71%는 12개월 내 플랫폼 도입·추가·교체를 계획했다. 9월 설문에서 플랫폼 도입을 계획한 기업 64곳 중 58곳(91%)은 기존 AI 인프라의 투자수익률(ROI)을 재무팀이 검토한 수치가 없다고 답했다. 따라서 79%를 전체 기업의 GPU 활용률로 일반화할 수 없다.