GPU만 좋으면 끝?…구글, AI 성능 발목 잡는 '스토리지' 지적
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 기업 AI 인프라의 병목이 GPU 확보에서 스토리지 성능으로 옮겨가고 있다.
- 구글은 학습·추론·에이전트별 데이터 흐름에 맞춘 스토리지 설계가 필요하다고 밝혔다.
- [디지털투데이 최재원 기자] 기업들이 AI 반도체를 확보하고도 스토리지 성능 부족으로 GPU와 TPU를 충분히 활용하지 못하고 있다는 지적이 나왔다.
본문
기업 AI 인프라의 병목이 GPU 확보에서 스토리지 성능으로 옮겨가고 있다. 구글은 학습·추론·에이전트별 데이터 흐름에 맞춘 스토리지 설계가 필요하다고 밝혔다. [디지털투데이 최재원 기자] 기업들이 AI 반도체를 확보하고도 스토리지 성능 부족으로 GPU와 TPU를 충분히 활용하지 못하고 있다는 지적이 나왔다. 5일(현지시간) IT 매체 실리콘앵글에 따르면 로넨 슈워츠(Ronen Schwartz) 구글 클라우드 스토리지 제품 담당 부사장은 "스토리지가 AI 가속기의 성능을 좌우하는 핵심 인프라로 떠올랐다"라고 밝혔다. 특히 AI 학습·추론·에이전트 운영은 서로 다른 저장·전송 성능을 요구한다. 슈워츠에 따르면 일부 학습 클러스터는 약 15분마다 수테라바이트(TB)의 데이터를 기록하며, 이 작업이 지연되면 GPU 전체가 대기 상태에 빠질 수 있다.
구글은 고성능 오브젝트 스토리지 래피드 버킷이 일반 오브젝트 스토리지보다 체크포인트 기록은 3배 이상, 복구는 5배 이상 빠르다고 밝혔다.
구글이 제시한 성능은 단일 버킷 기준 초당 15TB 이상의 처리량과 초당 2000만건의 요청을 밀리초(ms) 미만의 지연 시간으로 처리하는 수준이다. 실시간 응답이 중요한 추론과 달리 AI 에이전트는 여러 작업 사이의 상태 유지, 데이터 공유, 빠른 검색 기능이 요구된다. 또한 구글 쿠버네티스 엔진과 연동한 전용 파일스토어 볼륨으로 대규모 에이전트 운영을 지원한다. 슈워츠는 "스토리지를 단순 보관 수단이 아닌 AI 인프라의 성능과 비용을 결정하는 요소로 봐야 한다"라고 강조했다. AI 인프라 투자 효율을 높이려면 연산 능력뿐 아니라 데이터 공급 속도까지 고려해야 한다는 분석이다.5일(현지시간) IT 매체 실리콘앵글에 따르면 로넨 슈워츠(Ronen Schwartz) 구글 클라우드 스토리지 제품 담당 부사장은 "스토리지가 AI 가속기의 성능을 좌우하는 핵심 인프라로 떠올랐다"라고 밝혔다.