앤트로픽, 클로드로 3일 만에 AMD GPU 입력 처리 구현

본문

앤트로픽은 클로드 미토스 프리뷰를 활용해 클로드 모델 한 종의 입력 처리 단계를 AMD MI355X에서 약 3일 만에 사용 가능한 성능으로 구현했다고 밝혔다. 앤트로픽(Anthropic) 은 클로드 미토스 프리뷰를 활용해 한 클로드 모델의 입력 처리 기능을 AMD($AMD) MI355X GPU 에서 약 3일 만에 사용 가능한 성능으로 구현했다고 밝혔다. 필요한 GPU 커널은 클로드가 거의 모두 이식하거나 새로 작성했고, 사람의 개입은 적었다고 전했다. 이 단계가 AMD 칩에서 작동했다는 사실만으로 답변 생성까지 포함한 전체 추론 과정이나 대규모 서비스 운영 성능을 판단할 수는 없다. 이 수치는 플랫폼 도입 경험을 가리키고, 이번 약 3일은 한 모델의 입력 처리 기능을 구현한 기간이어서 작업 범위가 서로 다르다.

블록비츠는 AMD MI355X가 고대역폭 메모리 288GB를 탑재했지만, 엔비디아 GPU용으로 만든 커널이 AMD 칩에서 그대로 작동하지 않거나 작동해도 성능이 기대에 미치지 못할 수 있다고 설명했다.

이번 공개에서는 한 모델의 입력 처리 단계와 약 3일이라는 작업 기간이 제시됐다. 앤트로픽은 상장신고서에서 엔비디아 GPU, AMD GPU, 구글($GOOGL) TPU, 아마존($AMZN) 트레이니엄(Trainium)을 아우르는 다중 칩 연산 배정 시스템을 수년에 걸쳐 구축했다고 밝혔다. 앤트로픽과 AMD는 7월 공동 발표에서 앤트로픽이 MI355X를 이미 사용 중이며, 클로드를 활용해 AMD GPU 작업을 최적화하고 ROCm 개발을 앞당기기로 했다고 밝혔다. 톰 브라운(Tom Brown) 앤트로픽 공동창업자 겸 최고컴퓨팅책임자는 당시 발표에서 “다양한 하드웨어에서 운영하면 각 작업에 적합한 하드웨어를 배정할 수 있다”고 말했다. AMD는 앤트로픽에 최대 50억달러(약 6조7100억원)를 투자하기로 했다. 양사는 MI450 계열 GPU를 최대 2기가와트 규모로 배치할 계획이며, 첫 1기가와트 배치는 2027년 상반기 시작 예정이다.