엔비디아 "AI 데이터센터 전력 최대 40% 낭비"…칩보다 급한 건 '전기'

본문

[디지털투데이 이윤서 기자] 인공지능(AI) 데이터센터가 전력의 40%가량을 비효율적으로 쓰고 있다는 지적이 나왔다. 14일(현지시간) IT매체 테크레이더에 따르면 엔비디아는 현재 AI 데이터센터에서 전력 병목이 칩 부족보다 더 큰 제약이 될 수 있다고 밝혔다.이번 발언은 데이터센터 구축 기업 버티브(Vertiv)의 연례 유럽·중동·아프리카(EMEA) 행사에서 나왔다. 엔비디아와 버티브는 2026년 초부터 차세대 데이터센터 공동 설계를 진행하고 있으며, 버티브는 엔비디아 그래픽처리장치(GPU)용 전력 및 인프라 관리를 맡고 있다. 이번 발언은 데이터센터 구축 기업 버티브(Vertiv)의 연례 유럽·중동·아프리카(EMEA) 행사에서 나왔다. 엔비디아에 따르면 데이터센터가 전력망에서 공급받는 전력 중 실제 AI 연산에 쓰이는 비중은 최대 70%다.

나머지 30%는 인프라 운영과 시스템 비효율로 소모되며, 경우에 따라 이 비중이 40%까지 높아질 수 있다.

1기가와트(GW)급 데이터센터를 기준으로 냉각과 전력 분배·변환 과정에서 20%가 소모되고, 랙 구성 오류와 시스템 장애·재시작 등으로 10%가 추가로 낭비된다는 설명이다. 로드 에번스 엔비디아 EMEA 슈퍼컴퓨팅·AI 클라우드 인프라·AI/HPC 담당 부사장은 계약 전력과 실제 공급받는 전력 사이에 상당한 격차가 있다고 지적했다. 그는 "100메가와트(MW) 계약을 체결해도 실제로는 그 전력을 다 받지 못한다"며 "운이 좋으면 93MW를 받을 수도, 그보다 더 적게 받을 수도 있다"고 말했다. 현장에서는 AI 인프라 확대의 핵심 제약이 반도체 수급이 아니라 전력 확보라는 점도 함께 제기됐다. 전력 병목 때문에 설비 용량을 갖추고도 필요한 전기를 받지 못하는 데이터센터가 나오고 있으며, 일부 시설은 설비 규모에 맞는 전력을 공급받기까지 수년을 기다려야 하는 상황인 것으로 전해졌다.

이에 따라 AI 데이터센터 경쟁은 연산 성능뿐 아니라 전력 공급, 냉각 효율, 설비 운영 안정성까지 포함하는 방향으로 옮겨가는 모습이다.