AWS Neuron 2.33 新增原生 PyTorch 支援、Neuron Observer 及其他新功能
張貼日期: 2026年10月21日
AWS Neuron 2.33 現已推出，隆重推出適用於 AWS Trainium 的原生 PyTorch 後端 TorchNeuron，目前為公開測試版。您可以在 Amazon EC2 Trn2 和 Trn3 執行個體上，以 eager 模式或透過 torch.compile 執行以標準 PyTorch API 撰寫的模型。此版本也推出公開測試版的 Neuron Observer，可在不到一秒內偵測 Trainium 的運作狀態問題，並找出受影響的節點或裝置。
vLLM Neuron 外掛程式升級至 vLLM 0.29.0，而用於 Wan 2.2 影片生成的 vLLM Omni Neuron 外掛程式現在也納入 Neuron 版本中。兩者皆支援透過 TorchNeuron 進行原生 PyTorch 編譯。全新用於 PyTorch 訓練的 Neuron 深度學習 AMI 與深度學習容器，內含 TorchNeuron、PyTorch 2.14 及 TorchTitan。Neuron Explorer 可開啟以 torch.profiler 擷取的效能設定檔。從 PyTorch 記憶體快照中，它現在可將配置歸因至產生這些配置的 Python 原始碼行，以便在 eager 模式下偵錯記憶體不足錯誤。
以 Neuron Kernel Interface (NKI) 撰寫的核心現在可以使用完整的 Python 語言進行中繼程式設計，包括產生器與類別繼承。NKI 程式庫新增 25 個實驗性核心，包括適用於 DeepSeek-V3.2、Qwen 3.5 及 Kimi Delta Attention 的核心。
請參閱以下資源開始使用：