AWS Trainium をご利用のお客様

パフォーマンスとスケーリングは単なる技術的要件ではなく、その使命を達成するために不可欠です。だからこそ、私たちは主要なクラウドプロバイダーとして AWS と提携し、Project Rainier を構築しました。これは、世界で最もパワフルなオペレーション AI スーパーコンピュータの 1 つです。現在、Claude のトレーニングとサービスの提供に約 100 万個の Trainium2 チップを使っているので、Trainium3 に胸を躍らせています。Project Rainier で構築したものをはるかに超えて、Claude をスケールし続け、AI の可能性の限界を押し広げていくことを期待しています。

Anthropic、Head of Compute、James Bradbury 氏。

AWS とのパートナーシップは、その両方をもたらします。Trainium を使用することで、お客様は他の AI アクセラレーターとは異なるコストパフォーマンス比で poolside の使用量をスケールできます。また、Trainium が今後ネイティブに Pytorch と vLLM をサポートすることで、poolside を含む Trainium ユーザーにさらなる革新と柔軟性がもたらされます。とりわけ、AWS は顧客重視の姿勢が際立っており、AWS は当社のフィードバックを迅速に反復して活用し、Trainium を当社のニーズに適合させることができました。Trainium のあらゆる面でさらに協働することを楽しみにしています。

Joe Rowell 氏、Founding Engineer

Trainium 独自のアーキテクチャ、つまり効率的なメモリ階層と高スループットの AI エンジンは、ハードウェアを最大限に活用する Decart のリアルタイム動画モデルにとって理想的であることが証明されました。初期のテストでは、上位の GPU と比較してフレームスループットが最大 4 倍高く、コスト効率が 2 倍高く、レイテンシーが 40 ミリ秒から 10 ミリ秒に短縮されたことが示されています。このパフォーマンスにより、以前は標準的なハードウェアでは現実的ではなかった、ライブ、ダイナミック、インタラクティブな動画の大規模な生成が可能になります。Bedrock を通じて、まもなく AWS のお客様がこれらの機能に直接アクセスできるようになります。

Dean Leitersdorf 氏、Co-founder & CEO
 

AWS Trainium を採用したことで、一貫したインフラストラクチャの可用性を維持しながら、LLM トレーニングのコストを 50% 以上削減できました。これにより、予算をはるかに下回りながら、日本で最も正確な日本語モデルを作成することができました。インフラストラクチャの安定性により、予想外の生産性向上にもつながり、チームはトラブルシューティングではなくイノベーションに集中できるようになりました。

CPO、中山智文氏

2025 年、AI コミュニティは転換点に達し、1,000 万人を超える AI ビルダーが Hugging Face で数百万のオープンモデルとデータセットを使用および共有しました。AI がすべての人、あらゆる業界に確実に利益をもたらすためには、これまで以上に大規模で多様なオープンモデルの運用コストを削減することがこれまで以上に重要になっています。Hugging Face では、最初の Inferentia1 インスタンスが利用可能になって以来、AWS のエンジニアリングチームと協力して専用の AI チップを構築してきました。そこで今日、私たちは、MoE LLM からエージェント、動画生成モデルまで、最も要求の厳しい AI アプリケーションを推進する次世代の AWS AI チップである Trainium3 にこの上なくワクワクしています。Optimum Neuron では、Trainium 3 の高いメモリとコスト効率のメリットを、Transformers、Accelerate、Diffusers、TRL の何百万人ものユーザーに提供することで、同ユーザーがコストを抑えながら独自の AI を構築できるように取り組んでいます。

PyTorch のビジョンは単純明快です。どのハードウェアプラットフォームでも、どこでも同じコードを実行すべきだということです。AWS のネイティブ Trainium サポートにより、このハードウェアの選択肢が迅速な実験と自由な反復を必要とする研究者にもたらされています。AWS Trainium3 のリリースにより、PyTorch のデベロッパーは、使い慣れた PyTorch ワークフローを維持し、既に知っているエコシステム内にとどまりながら、より高いパフォーマンス、より低いレイテンシー、より優れたトークン経済性でアイデアを研究、構築、デプロイすることができます。