SK하이닉스($SKHY), CXL 메모리 공유…SSD에 KV 캐시 저장
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- SK하이닉스는 256GB CXL 모듈과 메모리 중심 AI 랙을 공개했다.
- 솔리다임과 Metrum AI는 SSD에 KV 캐시를 저장하는 방식을 시연했다.
- SK하이닉스($SKHY)가 고대역폭메모리(HBM) 외부의 메모리까지 묶어 쓰는 AI 랙 시스템을 공개했다.
본문
SK하이닉스는 256GB CXL 모듈과 메모리 중심 AI 랙을 공개했다. 솔리다임과 Metrum AI는 SSD에 KV 캐시를 저장하는 방식을 시연했다. SK하이닉스($SKHY)가 고대역폭메모리(HBM) 외부의 메모리까지 묶어 쓰는 AI 랙 시스템을 공개했다. 솔리다임(Solidigm)과 Metrum AI는 SSD에 AI 처리 정보를 보관하는 방식을, Nallasway는 AI 프로세서에 외부 D램을 연결하는 구상을 각각 제시했다. SK하이닉스가 선보인 메모리 중심 AI 랙 시스템(MARS)은 여러 업체의 장비와 솔루션을 하나의 랙에 통합하고 메모리를 중심에 두는 구성이다. 회사는 서버 여러 대가 필요한 만큼 메모리 풀에서 꺼내 쓰는 시스템으로 소개했다(SK하이닉스 발표).
AI 에이전트 환경에서 KV 캐시(앞선 입력을 처리하며 계산한 정보를 임시 저장한 데이터)를 공유하고, 멀티모달 서비스 ‘OmniServe’에서 임베딩을 공유하는 방식이 작동하는지 시험했다.
SK하이닉스는 CXL 풀을 이용해 KV 캐시를 전송하거나 재사용하는 방식이 네트워크 통신에 의존하는 기존 방식보다 시스템 성능을 높이는 모습을 보였다고 설명했다. AMD, Penguin, Xcena, Arcee와는 CXL 메모리와 D램·SSD를 결합한 메모리 랙을 시연했다. 작업 이력으로 필요한 KV 캐시를 예측해 D램에 미리 올리고, 전체 캐시는 SSD에 저장해 다시 읽어오는 구조다. 솔리다임과 Metrum AI는 공동 시연에서 공유 SSD 풀을 KV 캐시 저장 공간으로 활용했다. CXL 메모리 풀과 D램, SSD를 함께 쓰려면 소프트웨어가 각 데이터를 어디에 두고 언제 옮길지 판단해야 한다.