KAIST 연구진, 메타와 CXL 기반 AI 데이터센터 구조 제안

본문

[디지털투데이 이진호 기자] 한국과학기술원(KAIST)의 반도체·컴퓨터 시스템 연구가 교원 창업을 거쳐 글로벌 빅테크 메타(Meta)와의 협력으로 확장됐다.정명수 전기 및 전자공학부 교수와 교원창업기업 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터구조를 제시한 리뷰 논문을 국제 학술지 '네이처 리뷰 일렉트리컬 엔지니어링(NREE)'에 게재했다고 9일 밝혔다.연구진은 CXL(Compute Express Link)을 활용해 CPU와 AI 가속기, 메모리를 하나로 연결하고 이를 데이터센터 전체로 확장하는 구조를 제안했다. 정명수 전기 및 전자공학부 교수와 교원창업기업 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터구조를 제시한 리뷰 논문을 국제 학술지 '네이처 리뷰 일렉트리컬 엔지니어링(NREE)'에 게재했다고 9일 밝혔다.

연구진은 CXL(Compute Express Link)을 활용해 CPU와 AI 가속기, 메모리를 하나로 연결하고 이를 데이터센터 전체로 확장하는 구조를 제안했다.

CXL은 CPU와 가속기, 메모리 등 서로 다른 컴퓨팅 자원을 고속으로 연결하고 공유할 수 있도록 하는 국제표준 기술이다. 최근 하나의 AI 연산에 많게는 수천개의 가속기를 동시에 활용하는 사례가 늘고 있다. 단 가속기 수가 늘어날수록 장치 간 데이터 전송 지연이 전체 연산 성능을 떨어뜨릴 수 있어 가속기와 메모리를 효율적으로 연결하는 기술의 중요성이 커지고 있다. 기존 데이터센터가 여러 서버를 네트워크로 연결해 연산하는 방식이라면 연구진이 제시한 구조는 서버 간 경계를 낮추고 CPU·가속기·메모리를 긴밀하게 연결하는 것이 특징이다. 데이터센터 전체를 하나의 컴퓨터처럼 동작하도록 만드는 개념이다. 연구진은 CXL을 기반으로 가속기뿐 아니라 CPU와 메모리까지 연결하고 적용 범위를 데이터센터 전체로 확대했다. 연구진에 따르면 제안한 구조에서는 하나의 연결 영역에 최대 960개의 가속기를 연결할 수 있다.

연구진은 데이터 이동 지연도 기존 네트워크 기반 구조의 마이크로초(μs) 수준에서 수백 나노초(ns) 수준으로 줄일 수 있을 것으로 분석했다. 정명수 KAIST 전기및전자공학부 교수 겸 파네시아 대표는 "AI가 거대해질수록 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다"며 "이번 연구는 CXL을 기반으로 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 동작시키는 차세대 AI 인프라의 방향을 제시했다는 데 의미가 있다"고 말했다.