LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

마이크로소프트, 2350억개 매개변수 AI 모델 PC 3대서 실행

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • USB4로 연결한 미니 PC 3대에서 Qwen3-235B-A22B를 초당 약 18.5토큰으로 구동했다.
  • Windows Insider 프리뷰 빌드의 공개 날짜는 제시되지 않았다.
  • 마이크로소프트가 USB4로 연결한 미니 PC 3대에서 매개변수 2350억개인 AI 모델을 분산 실행한 결과를 공개하고 Windows용 RDMA over USB4 개발자 프리뷰를 예고했다.
시장 반응 중립MSFT
ARTICLE BRIEF

본문

USB4로 연결한 미니 PC 3대에서 Qwen3-235B-A22B를 초당 약 18.5토큰으로 구동했다. Windows Insider 프리뷰 빌드의 공개 날짜는 제시되지 않았다. 마이크로소프트가 USB4로 연결한 미니 PC 3대에서 매개변수 2350억개인 AI 모델을 분산 실행한 결과를 공개하고 Windows용 RDMA over USB4 개발자 프리뷰를 예고했다. 마이크로소프트(Microsoft·$MSFT)는 19일 공식 기술 게시물에서 기능을 소개했다. 호환되는 추론 프레임워크가 모델을 여러 PC에 나누고, 응용 프로그램은 Windows의 NetworkDirect API를 이용해 PC 사이 통신을 처리한다. 같은 연결에서 Ethernet의 UDP 방식으로 통신할 때보다 약 4배 낮은 수치지만, AI 모델 처리 속도가 4배 빨라졌다는 뜻은 아니다.

마이크로소프트 실험실은 AMD($AMD) Ryzen AI Max 프로세서와 Radeon 8060S 그래픽, PC당 통합 메모리 128GB를 갖춘 미니 PC 3대를 40Gbps USB4로 연결했다. AMD는 Ryzen AI Max+ 395 기반 PC 3대 구성에서 같은 4비트 모델을 측정했다. 1K 토큰 문맥 기준으로 PC 3대 구성은 초당 49.4토큰, 4대 구성은 초당 54.2토큰을 기록했으며, 2K 문맥에서는 각각 초당 49.4토큰과 51.7토큰이었다. 마이크로소프트는 일상용 PC 대신 전용 시험 PC를 쓰도록 안내했으며, 연결이 끊겼을 때 전송 계층이 자동으로 재시도하지 않고 데이지체인 구성에서는 성능이 크게 떨어질 수 있다고 설명했다. 마이크로소프트는 앞서 Windows를 로컬 AI 실행 플랫폼으로 확장하겠다는 구상을 공개했다 .

마이크로소프트는 19일 공식 기술 게시물에서 프리뷰 결과를 바탕으로 더 많은 PC와 실리콘 파트너, 향후 Windows 릴리스에 적용하는 방안을 검토 중이라고 밝혔다.