Amazon은 AI 연구원을 확보하기 위해 Trainium3 기본 PyTorch 지원을 제공합니다.

본문

AWS는 AI 칩을 연구 교육에 사용할 수 있도록 만드는 것을 목표로 Trainium2 및 Trainium3용 기본 PyTorch 백엔드인 TorchNeuron을 출시했습니다. Amazon 공식 로고(공개 도메인, Wikimedia Commons) - CryptoBriefing 브랜드 처리 AWS의 새로운 TorchNeuron 백엔드는 Amazon의 Trainium 칩에 평판 문제가 있으며 속도에 관한 것이 아니라 사용자 정의 칩을 연구 교육을 위한 실제 옵션으로 만드는 것을 목표로 합니다. 그들은 완성된 AI 모델을 실행하는 데 능숙했지만 새로운 모델을 구축하는 지저분하고 실험적인 작업에는 어색했습니다. Trainium2 및 Trainium3 가속기용 기본 PyTorch 백엔드인 TorchNeuron을 출시했습니다. 이는 연구 교육이 다른 PyTorch 작업과 같은 느낌을 갖도록 구축되었습니다.

AWS는 하루 뒤인 10월 20일 북미 PyTorch 컨퍼런스에서 이를 오픈 소스로 공개했습니다. 이번 릴리스는 AWS가 자체 칩을 프로그래밍하는 데 사용하는 소프트웨어 도구 키트인 Neuron SDK 버전 2.33.0과 함께 출시되었습니다. 개발자는 다른 장치에서 코드를 가리키는 것처럼 .to('neuron') 과 같은 한 줄을 사용하여 모델을 Trainium으로 이동할 수 있습니다. 이를 위해서는 개발자가 학습 루프를 통해 xm.step()과 같은 호출을 분산시키고 컴파일러가 많이 사용되는 사용자 정의 스타일의 프로그래밍을 해결해야 했습니다. 개방형 AI 모델의 인기 허브인 Hugging Face도 Trainium 지원을 채택했습니다. 이 업데이트는 또한 Trainium을 하드웨어에 더 쉽게 접근할 수 있는 분야로 언급된 약물 발견과 같은 분야를 포함하여 더 광범위한 연구 사용 사례에 제공합니다.

Trainium 칩에 대한 Amazon의 PyTorch 지원은 AI 연구를 가속화하여 다양한 분야에서 혁신과 경쟁력을 강화할 수 있습니다. Amazon이 AI 연구자들을 설득하기 위해 Trainium3 기본 PyTorch 지원을 제공하는 게시물이 Crypto Briefing에 처음 등장했습니다.