AWS 和 NVIDIA 十多年來攜手合作,為客戶提供功能強大、經濟實惠且具有彈性的 GPU 型解決方案。這些創新從雲端 (採用 NVIDIA GPU 的 Amazon EC2 執行個體) 擴展到邊緣 (以 NVIDIA Jetson Nano 模組部署的 AWS IoT Greengrass 等服務)。

全球各地的客戶都在使用 AWS 和 NVIDIA 的這套解決方案,來驅動機器學習 (ML)、虛擬工作站、高效能運算 (HPC) 和 IoT 服務。採用 NVIDIA GPU 的 Amazon EC2 執行個體提供可擴展的效能,適用於快速的機器學習訓練、經濟實惠的機器學習推論、彈性的遠端虛擬工作站,和功能強大的 HPC 運算。在邊緣運算方面,客戶可使用 AWS IoT Greengrass 將各式各樣的 AWS 雲端服務擴展到以 NVIDIA 為基礎的邊緣裝置,讓這些裝置可在本機對產生的資料進行處理。

AWS 和 NVIDIA
Amazon EC2 P4d 執行個體簡介 (2:00)

工作負載

機器學習

機器學習

將 GPU 執行個體用於加快機器學習訓練及降低推論成本

對於需要加速機器學習訓練的資料科學家、研究人員和開發人員而言,若要在雲端中進行機器學習訓練,Amazon EC2 P4d 執行個體能提供最高效能。P4d 執行個體採用最新的 NVIDIA A100 Tensor Core GPU,提供領先業界的高輸送量和低延遲聯網。此外,對於自訂化程度更高的機器學習訓練,上一代的 Amazon EC2 P3 執行個體提供多種執行個體大小,配備多達 8 個 NVIDIA V100 Tensor Core GPU,每個執行個體可提供高達 1 petaflop 的混合精確效能。針對機器學習推論,除了 P4d 和 P3 執行個體,Amazon EC2 G4 執行個體採用 NVIDIA T4 Tensor Core GPU,提供雲端中用於機器學習推論最具成本效益的 GPU 執行個體。

進一步了解 Amazon EC2 P4 執行個體 »

進一步了解 Amazon EC2 P3 執行個體 »

進一步了解 Amazon EC2 G4 執行個體 »

Amazon EC2 P3 執行個體 (2:18)
虛擬工作站

虛擬工作站

調整您的人力,網羅全球創意人才

AWS 上的虛擬工作站讓工作室可承接更大的專案,在任何地點皆可作業,並僅依所需付費。在採用 NVIDIA T4 Tensor Core GPU 的 Amazon EC2 G4 執行個體上執行,虛擬工作站採用的功能由 NVIDIA Quadro 技術支援,其為深受創意和技術專業人員信任的視覺運算平台。


深入了解 AWS 上的虛擬工作站 »

數位內容創作的雲端工作室 (4:52)
高效能運算

高效能運算

解決大型運算問題和取得新洞見

Amazon EC2 P4d 執行個體採用 NVIDIA A100 Tensor Core GPU,是執行工程模擬、計算金融學、地震分析、分子模擬、基因體、轉譯和其他 GPU 運算工作負載的理想平台。高效能運算 (HPC) 可讓科學家和工程師解決這些複雜、運算密集的問題。HPC 應用程式通常需要高速網路效能、快速儲存、大量記憶體、超強運算能力,也可能需要以上所有特點。AWS 透過在雲端執行 HPC,並能擴展到超過大部分內部部署環境實際可行的大量平行任務,讓客戶加快研究速度,又能縮短得出結果的時間。

進一步了解 Amazon EC2 P4 執行個體 »

運用 GPU 加強 AWS 上的 HPC (33:46)
物聯網

物聯網

將 AWS 無縫擴展至邊緣裝置,讓這些裝置可在本機上操作

AWS IoT Greengrass 將 AWS 無縫延伸到邊緣裝置 (例如 NVIDIA Jetson 裝置),以便在本機上操作其產生的資料,同時繼續將雲端用於管理、分析和耐久性儲存。使用 AWS IoT Greengrass,NVIDIA Jetson 裝置可執行 AWS Lambda 函數和/或 Docker 容器;根據機器學習模型執行預測、保持裝置資料同步,即使沒有連線到網際網路也可以與其他裝置安全地通訊。

了解如何整合 Jetson 模組上的 NVIDIA DeepStream 與 AWS IoT Core 和 AWS IoT Greengrass。

閱讀部落格文章 »

使用 Jetson Nano 上的 AWS ML IoT 服務部署 AI (1:03:58)

產業

醫療保健與生命科學

醫療保健與生命科學

AWS 是全球醫療保健與生命科學行業信任的技術合作夥伴。作為最成熟和最可靠的雲端平台,AWS 提供在高度管制的行業營運的安全和隱私。AWS 和 NVIDIA 提供機器學習服務等解決方案,可讓醫療保健供應商提供更好的患者結果。

範例客戶:Subtle MedicalMathworks

金融服務

金融服務

AWS 為銀行、支付、資本市場和保險業的金融服務機構提供所需的安全、有彈性的全球雲端基礎設施和服務,從而在現下獨具特色並適應未來需求。AWS 和 NVIDIA 提供的解決方案可協助金融服務公司自訂使用者體驗,並為交易提供安全環境。

範例客戶:NerdwalletPathwise

媒體與娛樂

媒體與娛樂

媒體與娛樂界客戶面臨全產業規模的轉型,業者正在重新發明如何創作內容、優化媒體供應鏈,並且遍及串流、直播及直接面向消費者的平台爭取受眾關注。AWS 和 NVIDIA 提供解決方案,在內容開發的各個方面協助客戶。

範例客戶:Untold StudiosHyperconnectHive VFXSnapSway

電信

電信

AWS 為電信業的未來提供動力。領先業界的通訊服務供應商在 AWS 上執行的工作負載比其他任何雲端供應商都來得多。AWS 和 NVIDIA 在廣泛的領域提供解決方案,從提供維護解決方案至使用 AWS Outposts 和 AWS Wavelength 在邊緣提供 GPU 處理能力。

範例客戶:NTT Docomo

汽車

汽車

連網、自動駕駛、共享及電動車輛趨勢融合起來,徹底改變汽車產業。AWS 和 NVIDIA 提供了廣泛的功能,包括 AI/機器學習、IoT、HPC 和資料分析,並以不懈的創新步伐實現。

案例研究

AWS 和 NVIDIA 服務

Amazon EC2 P4d 執行個體

Amazon EC2 P4d 執行個體

Amazon EC2 P4d 執行個體在雲端提供最高效能的機器學習訓練和 HPC 應用程式。P4d 執行個體採用最新的 NVIDIA A100 Tensor Core GPU,提供領先業界的高輸送量和低延遲聯網。
 
 
EC2 P3 執行個體

Amazon EC2 P3 執行個體

Amazon EC2 P3 執行個體配備高達 8 個 NVIDIA V100 Tensor Core GPU 和 100 Gbps 的網路傳輸量,能支援機器學習和 HPC 應用程式。經證實,P3 執行個體可將機器學習訓練時間從數天縮短至數分鐘,並使 HPC 完成模擬的次數提升 3-4 倍。
 
EC2 P4 執行個體

Amazon EC2 G4 執行個體

Amazon EC2 G4 執行個體配備 NVIDIA T4 Tensor Core GPU,可存取一個 GPU 或包含不同數量 vCPU 與記憶體的多個 GPU。G4 執行個體提供業界最具成本效益的多功能 GPU 執行個體,可用於在生產環境和圖形密集型應用程式中部署機器學習模型。
 

AWS IoT Greengrass

AWS IoT Greengrass 將 AWS 無縫延伸到邊緣裝置 (例如 NVIDIA Jetson 系統裝置),以便在本機上操作其產生的資料,同時繼續將雲端用於管理、分析和耐久性儲存。即時使用不穩定的連線,AWS IoT Greengrass 也能讓連線裝置對雲端進行操作。

探索 AWS Marketplace 中的 NVIDIA NGC 型錄

運用 NVIDIA 最新的 GPU 最佳化軟體更快地建置、最佳化和部署機器學習解決方案。

其他資源

部落格

AWS 和 NVIDIA 使用 GPU 將 Arm 型 Graviton2 執行個體引入雲端 (AWS and NVIDIA to bring Arm-based Graviton2 instances with GPUs to the cloud)

部落格

Facebook 使用 Amazon EC2 評估深偽偵測大賽 (Facebook uses Amazon EC2 to evaluate the Deepfake Detection Challenge)

部落格

使用 Ubuntu18 DLAMI、P3dn 執行個體上的 EFA 與 Amazon FSx for Lustre,大規模進行多 GPU 分散式深度學習訓練 (Multi-GPU distributed deep learning training at scale with Ubuntu18 DLAMI, EFA on P3dn instances, & Amazon FSx for Lustre)

部落格

AWS 上的 NVIDIA Clara Train 應用程式開發架構 (NVIDIA Clara Train application development framework on AWS)

部落格

在 Amazon SageMaker 上使用 TensorFlow 訓練 ALBERT 以進行自然語言處理 (Train ALBERT for natural language processing with TensorFlow on Amazon SageMaker)

部落格

AWS 提供 NVIDIA A100 Tensor Core GPU 型 Amazon EC2 執行個體 (AWS to offer NVIDIA A100 Tensor Core GPU-based Amazon EC2 instances)

NVIDIA on AWS 入門