AWS Neuron SDK 2.27.0 の発表
本日、AWS は Neuron SDK 2.27.0 を発表しました。このリリースでは、オープンソースコンポーネントが拡張された Trainium3 UltraServer のサポートが導入されています。また Neuron には、Neuron Explorer ツールスイート、MLIR 上に構築されたオープンソースの NKI コンパイラを備えた拡張 NKI (プライベートベータ)、最適化済みカーネルを集めた NKI ライブラリ、TorchNeuron によるネイティブな PyTorch サポート (プライベートベータ)、Kubernetes ネイティブなリソース管理のための Neuron DRA (プライベートベータ) も導入されています。
これらのアップデートにより、標準的なフレームワークを Trainium 上で変更せずに実行できるようになり、研究者が実験やイノベーションに専念するうえで障壁となる要素が取り除かれます。より詳細な制御を必要とするデベロッパー向けとして、強化された Neuron Kernel Interface (NKI) Beta 2 では直接ハードウェアレベルの最適化を適用できるため、パフォーマンスを向上させながら AI ワークロードをスケールできます。新しい NKI の機能や改善点への早期アクセスを希望される場合は、Neuron プライベートベータプログラムにご参加ください。
SDK の新しいバージョンは、Inferentia インスタンスと Trainium インスタンスをサポートしているすべての AWS リージョンで利用でき、パフォーマンスを向上させたり、機械学習ワークロード向けのモニタリング機能を使用したりすることができます。
詳細については、以下をご覧ください。