"이제 GPU만의 싸움 아니다"…엔비디아, AI 데이터센터 전쟁 정조준

본문

[디지털투데이 홍진주 기자] 엔비디아의 인공지능(AI) 경쟁력이 GPU 자체의 성능과 공급력을 넘어 데이터센터 전체를 조율하는 시스템 역량으로 확대되고 있다는 평가가 나온다. AI 컴퓨팅 규모가 기가와트급으로 커지면서 단순히 빠른 GPU를 확보하는 것보다 메모리·스토리지·네트워크·데이터 흐름을 얼마나 효율적으로 연결하느냐가 성능과 비용을 좌우하는 핵심 요소로 떠오르고 있기 때문이다.지난달 29일(현지시간) IT매체 테크크런치에 따르면, 최근 엔비디아 실적 발표 이후 시장에서는 엔비디아의 경쟁력이 더 이상 GPU 공급 우위에만 있지 지난달 29일(현지시간) IT매체 테크크런치에 따르면, 최근 엔비디아 실적 발표 이후 시장에서는 엔비디아의 경쟁력이 더 이상 GPU 공급 우위에만 있지 않다는 분석이 나오고 있다. 그동안 엔비디아를 둘러싼 핵심 경쟁력은 AI 붐 초기 최첨단 GPU를 사실상 독점적으로 공급하며 막대한 수익을 거둔 데 있었다.

그러나 아마존과 구글 등 하이퍼스케일러가 자체 AI 칩 개발에 나서면서 엔비디아의 GPU 우위가 얼마나 오래 지속될지를 둘러싼 우려도 커졌다. 엔비디아 시가총액이 2023년 초부터 2025년 중반까지 10배 가까이 증가한 이후 최근 1년간 주가 상승세가 상대적으로 둔화한 배경에도 이 같은 경쟁 심화에 대한 시장의 우려가 자리 잡고 있었다. GPU가 데이터 부족이나 네트워크 병목 때문에 성능을 제대로 발휘하지 못하는 상황을 줄이고 데이터센터 전체의 효율을 높이는 데 초점이 맞춰져 있다. 엔비디아 스토리지 기술 담당 부사장 제이슨 하디는 베라의 의미와 관련해 하나의 서버나 컴퓨팅 플랫폼에 장착할 수 있는 메모리에는 물리적인 한계가 있다고 설명했다. AI 서비스 기업들이 전력당 처리할 수 있는 토큰 수를 높이는 동시에 비용을 낮추려는 상황에서 이 같은 데이터 흐름 제어 능력은 중요한 경쟁 요소가 될 수 있다.

이에 따라 AI 반도체 경쟁 역시 GPU 단품의 성능 비교에서 데이터센터 전체의 시스템 설계 역량을 겨루는 방향으로 이동하고 있다. 엔비디아는 앞으로도 자체 AI 칩을 개발하는 하이퍼스케일러와 경쟁 반도체 업체들의 도전에 직면할 전망이다. 다만 현재 AI 인프라 경쟁의 초기 단계에서는 단순히 엔비디아에 맞서는 GPU를 만드는 것보다 데이터센터 전체를 효율적으로 작동시키는 시스템 역량이 더 중요한 변수로 부상하고 있다. 엔비디아가 GPU 시장을 넘어 데이터센터의 연산·메모리·스토리지·네트워크를 하나로 묶는 시스템 기업으로 진화할 수 있을지가 향후 AI 인프라 시장의 경쟁 구도를 좌우할 핵심 변수가 될 전망이다.