AWS, TorchNeuron'u duyurdu: AWS Trainium için Yerel PyTorch Desteği (Genel Beta)
Bugün AWS, AWS Trainium için bir açık kaynaklı yerel PyTorch arka ucu olan TorchNeuron'un genel beta sürümünü başlattı. Trainium, derin öğrenme yapay zeka eğitimi ve çıkarım iş yükleri için yüksek performans ve maliyet verimliliği sağlamak üzere tasarlanmış bir yapay zeka yonga portföyüdür. TorchNeuron, yapay zeka bilim insanlarının ve araştırmacılarının Trainium'da yerel olarak PyTorch ile modeller denemelerine ve oluşturmalarına olanak tanır.
Geliştiriciler istekli yürütme, torch.compile ve standart Pytorch API'leri ile tam uyumluluğu korurken TorchNeuron ile trainiumda kendi PyTorch kodlarını kolayca .to('neuron')'a geçiş yaparak etkinleştirebiliriler. Ek olarak, TorchNeuron, Trainium donanımı için özel operatörler ve performans optimizasyonu sağlamak üzere Nöron Kernel Arabirimi (NKI) ile entegre olur.
TorchNeuron, Amazon EC2 Trainium2 bulut sunucuları ve Amazon EC2 Trainium3 bulut sunucuları için TorchNeuron github deposu aracılığıyla açık kaynak olarak kullanılabilir.
TorchNeuron ve AWS Trainium hızlandırıcıları hakkında daha fazla bilgi edinmek için AWS Neuron sayfasını ziyaret edin.