AWS Deep Learning Container
優勢
使用預先封裝且經過全面測試的 Docker 映像檔，在幾分鐘內部署深度學習環境。
針對 TensorFlow、PyTorch 和 Apache MXNet 等流行框架訓練最佳化模型，以自動提高效能。
將機器學習 (ML) 作為微型服務，快速加入在 Amazon EKS 和 Amazon EC2 上執行的應用程式中。
藉助與 Amazon SageMaker、Amazon EKS 和 Amazon ECS 整合，建置用於訓練、驗證和部署的自訂 ML 工作流程。
使用案例
自動駕駛汽車 (AV) 開發
大規模開發進階 ML 模型，以安全快速地在您的環境內部署 AV 技術。
自然語言處理 (NLP)
縮短部署 ML 模型所需的時間，並透過最新的架構和程式庫加速投入生產，包括 Hugging Face 轉換器。
醫療保健資料分析
使用進階分析、ML 和深度學習功能分析不同的原始醫療保健資料，以識別趨勢並進行預測。
支援的深度學習容器
|
Operating systems
|
Frameworks
|
Instances
|
Platforms
|
|---|---|---|---|
|
Ubuntu Linux
|
PyTorch |
AWS Trainium |
Amazon EC2 |
|
|
TensorFlow |
NVIDIA GPU |
Amazon ECS |
|
|
|
AWS Inferentia |
Amazon EKS |
|
|
|
|
AWS Graviton |
如需深度學習容器支援的詳細資訊，請參閱版本說明。
客戶成功案例
羅布洛克斯
Roblox 是一個沉浸式遊戲和創作平台，為人們提供數百萬種同樂的方式，邀請其社群探索、建立和分享無盡的獨特體驗。Roblox 的全球社群由數百萬開發人員組成，使用 Roblox Studio 建立和發佈自己的身歷其境多人遊戲體驗，該平台的全方位創作引擎讓任何人都能夠建置他們想像的任何事物。
作為 Roblox 中 AI 平台的一部分，我們在整個業務範圍內訓練和提供 250 個以上的模型。Roblox 上幾乎每個互動都有某種形式的 AI 為其提供支援，包括安全、生成式 AI 3D 內容建立、體驗建議、即時翻譯和其他使用案例。我們正在為 EKS GPU 節點群組使用 AWS 深度學習容器，因此我們不必擔心基礎設施、Nvidia 驅動程式和 CUDA 安裝，這些可以立即使用。我們可以專注於對我們真正重要的事情，改善 GPU 排程和 GPU 使用率，進而讓使用者受益，並降低服務這些 AI 工作負載的成本。
Roblox 首席機器學習工程師 Denis Goupil
