AWS Neuron 2.31.0 現已推出，搭載 NKI 0.5.0 和 UltraServer Operator

張貼日期: 2026年7月8日

AWS Neuron 2.31.0 現已推出，導入 NKI 0.5.0，支援新的 MX FP8 擴展 dtype、在運算操作中使用張量間接定址以減少索引存取模式中的指令，以及新的 NkiTensor view API，可零成本轉換張量版面配置。此版本亦以公開測試版推出適用於 Amazon EKS 的 Neuron UltraServer Operator，可自動探索 UltraServer、分配工作負載，以及為 Amazon EKS 上的 Trainium UltraServer 工作負載產生資源宣告。

Neuron Compiler 包含重新設計的程式碼產生後端，現已在 Trn2 和 Trn3 上依預設啟用，可提升效能。Neuron Runtime 新增連續共用暫存區支援，無需手動設定暫存區頁面大小，進而簡化裝置設定。NKI Library 新增 14 個實驗性核心，涵蓋 MoE 培訓集合通訊、可變形注意力、DeepSeek MLA 投影和環狀注意力，並提供 PyTorch 參考實作。Neuron Explorer 新增 System Trace Viewer 來源程式碼連結功能及更新的預設分組，以改善工作負載偵錯。

請參閱以下資源開始使用：

• AWS Neuron 2.31.0 最新消息

• AWS Neuron 2.31.0 版本備註

• Neuron Kernel Interface (NKI) 文件

• Neuron 代理式開發

• AWS Neuron 開發人員指南

AWS Neuron 適用於提供 Amazon EC2 Trn1、Trn2、Trn3、Inf2 和 Inf1 執行個體的所有 AWS 區域。如需區域可用性的詳細資訊，請參閱 AWS 區域表。