마이크로소프트, AI 모델 실행에 자체 칩 우선 적용

본문

마이크로소프트가 3세대 AI 가속기 Maia 300을 공개하고 AI 모델 추론에 자체 칩을 주력으로 활용하겠다고 밝혔다. 마이크로소프트($MSFT)가 3세대 AI 가속기 Maia 300을 공개하고, AI 모델 추론에 자체 칩을 주력으로 활용하겠다고 밝혔다. CNBC는 칩 생산이 2027년 시작되며, 마이크로소프트가 Maia 제품군을 수 기가와트 규모로 배치하는 것을 목표로 한다고 보도했다. 회사는 데이터센터 랙 하나에 Maia 300 칩 96개를 넣을 계획이다. 마이크로소프트는 새 칩이 랙당 최대 7배 많은 AI 토큰을 처리하고, 메가와트당 토큰 처리량은 GPU보다 40% 높다고 설명했다. Maia 300은 마이크로소프트가 자체 AI 칩 개발을 이어온 결과물이다. 회사는 2023년 첫 AI 칩 Maia 100을 공개했고, 올해 1월 Maia 200을 선보였다.

사티아 나델라(Satya Nadella) 마이크로소프트 최고경영자(CEO)는 7월 Maia 200이 기존 데이터센터의 최신 하드웨어보다 달러당 성능이 30% 높다고 밝혔다. Maia 300이 적용되면 마이크로소프트 365 코파일럿 일부 기능의 속도도 빨라질 수 있다고 회사 기술 펠로우 짐 클리윈이 밝혔다. 마이크로소프트는 애저 클라우드에서 고객용 AI 모델을 운영하고, 마이크로소프트 365 코파일럿과 깃허브 코파일럿을 제공한다. 자체 칩은 이들 서비스에서 모델을 실행하는 데 쓰이며, 칩 성능과 전력 효율은 데이터센터 운영 비용에도 영향을 준다. 무어 인사이트 앤 스트래티지의 패트릭 무어헤드 CEO는 “마이크로소프트 외부에서는 아직 아무도 칩을 시험하지 않았다”고 말했다.