Marvell, GPU에서 50m 떨어진 곳에 AI 메모리를 배치하는 포토닉 모듈 선보여
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- Marvell의 포토닉 패브릭 메모리 모듈은 광학 링크를 사용하여 HBM 및 DDR 메모리를 GPU에서 50미터 떨어진 곳에 배치하여 16개 호스트에 걸쳐 32TB 이상을 풀링합니다.
- 포토닉 패브릭 메모리 모듈은 구리 대신 빛을 사용하여 칩의 가장자리를 훨씬 넘어서는 고대역폭 메모리를 풀링합니다.
- 수년 동안 AI 서버에서 가장 빠른 메모리는 사실상 프로세서 위에 위치해야 했습니다.
본문
Marvell의 포토닉 패브릭 메모리 모듈은 광학 링크를 사용하여 HBM 및 DDR 메모리를 GPU에서 50미터 떨어진 곳에 배치하여 16개 호스트에 걸쳐 32TB 이상을 풀링합니다. 포토닉 패브릭 메모리 모듈은 구리 대신 빛을 사용하여 칩의 가장자리를 훨씬 넘어서는 고대역폭 메모리를 풀링합니다. 수년 동안 AI 서버에서 가장 빠른 메모리는 사실상 프로세서 위에 위치해야 했습니다. Marvell Technology는 이제 해당 메모리를 최대 50미터 떨어진 곳으로 이동할 수 있다고 밝혔습니다. 이 회사의 Photonic Fabric Memory Module은 광학 링크를 사용하여 HBM과 DDR 모두 고대역폭 메모리가 GPU 또는 XPU에서 해당 거리에서 작동할 수 있도록 합니다. 구리선은 AI 칩이 요구하는 속도로 인해 신호 품질이 빠르게 떨어지기 때문에 메모리가 프로세서 바로 옆에 볼트로 고정되어 있습니다.
모듈은 16개 호스트에 걸쳐 메모리를 풀링할 수 있습니다. 요약에서는 32TB를 초과할 수 있는 분리된 메모리 풀에 대해 설명합니다. 이러한 토론에는 theCUBE 인터뷰와 Marvell의 투자자 데이가 포함되었습니다. 여기서 경영진은 AI 데이터 센터 인프라에 대한 회사의 광범위한 추진의 일환으로 포토닉 메모리를 구성했습니다. 투자자들에게 연구 결과는 특히 고대역폭 메모리 솔루션에 대한 수요가 증가함에 따라 AI 인프라 구축 방식의 잠재적인 변화로 이를 프레임화합니다. 50미터 시연과 25~30미터를 목표로 하는 실제 설계 사이의 격차는 실제 배포가 헤드라인 거리보다 훨씬 짧을 수 있음을 보여줍니다. Marvell의 혁신은 확장 가능한 메모리 솔루션을 구현하여 AI 인프라에 혁명을 일으키고 잠재적으로 AI 처리 효율성을 향상시킬 수 있습니다.
Marvell의 게시물은 GPU에서 50m 떨어진 곳에 AI 메모리를 배치하는 포토닉 모듈을 Crypto Briefing에서 처음으로 선보였습니다.