AWS Neuron 2.33 がネイティブ PyTorch サポート、Neuron Observer、その他の新機能を追加
AWS Neuron 2.33 が利用可能になりました。このリリースでは、AWS Trainium 向けのネイティブ PyTorch バックエンドである TorchNeuron がパブリックベータ版として導入されています。標準の PyTorch API で記述されたモデルを、eager モードまたは torch.compile を使用して、Amazon EC2 Trn2 および Trn3 インスタンスで実行できます。このリリースでは、Neuron Observer もパブリックベータ版として導入されています。Neuron Observer は、Trainium の正常性に関する問題を 1 秒未満で検出し、影響を受けるノードまたはデバイスを特定します。
vLLM Neuron プラグインが vLLM 0.29.0 にアップグレードされ、Wan2.2 の動画生成向けの vLLM Omni Neuron プラグインが Neuron リリースに含まれるようになりました。どちらのプラグインも、TorchNeuron によるネイティブ PyTorch コンパイルをサポートしています。PyTorch トレーニング用の新しい Neuron Deep Learning AMI および Deep Learning Container には、TorchNeuron、PyTorch 2.14、TorchTitan が含まれています。Neuron Explorer は、torch.profiler でキャプチャしたプロファイルを開くことができます。また、PyTorch のメモリスナップショットから、各割り当てを、その割り当てを行った Python のソース行と対応付けられるようになりました。この機能は、eager モードでのメモリ不足エラーのデバッグに役立ちます。
Neuron Kernel Interface (NKI) で記述されたカーネルで、ジェネレーターやクラス継承を含む Python 言語の機能をすべてメタプログラミングに使用できるようになりました。NKI Library には、DeepSeek-V3.2、Qwen3.5、Kimi Delta Attention 向けのカーネルを含む、25 個の新しい試験的なカーネルが追加されています。
使用を開始するには、以下のリソースを参照してください。