AWS 宣布推出 TorchNeuron:為 AWS Trainium 提供原生 PyTorch 支援 (公開 Beta 版)
張貼日期: 2026年10月20日
今日,AWS 推出 TorchNeuron 公開 Beta 版,這是專為 AWS Trainium 打造的開源原生 PyTorch 後端。Trainium 是一系列 AI 晶片,旨在為深度學習 AI 訓練和推論工作負載提供高效能與成本效益。TorchNeuron 可讓 AI 科學家和研究人員直接在 Trainium 上使用 PyTorch 進行實驗和建置模型。
透過 TorchNeuron,開發人員只要切換為 .to ('neuron'),即可在 Trainium 上啟用其 PyTorch 程式碼,同時保有與 Eager 執行、torch.compile 及標準 PyTorch API 的完整相容性。此外,TorchNeuron 與 Neuron Kernel Interface (NKI) 整合,可為 Trainium 硬體支援自訂運算子和效能最佳化。
TorchNeuron 透過 TorchNeuron github 儲存庫開源提供,適用於 Amazon EC2 Trainium2 執行個體和 Amazon EC2 Trainium3 執行個體。
如需進一步了解 TorchNeuron 和 AWS Trainium 加速器,請瀏覽 AWS Neuron 頁面。