Amazon EC2 P5 執行個體現已適用於 AWS Secret Cloud

張貼日期: 2024年8月15日

AWS Secret Cloud 現已提供搭載 NVIDIA H100 Tensor Core GPU 的 Amazon Elastic Compute Cloud (Amazon EC2) P5 執行個體。與上一代 GPU 型 EC2 執行個體相比，Amazon EC2 P5 執行個體可讓您以快 4 倍的時間找出解決方案，且訓練 ML 模型的成本最高可降低 40%。

您可以使用 P5 執行個體來訓練及部署日趨複雜的大型語言模型 (LLM) 與擴散模型，為需求最嚴苛的生成式 AI 應用程式提供支援。這包括問題回答、程式碼產生、影片和影像產生、語音識別和更多項目。您也可以在製藥探索、地震分析、天氣預報及財務模型等領域，使用 P5 執行個體大規模部署需求嚴苛的 HPC 應用程式。

P5 執行個體搭載最新型 NVIDIA H100 Tensor Core GPU，與前一代 GPU 型執行個體相比，可提供 2 倍的 CPU 效能、2 倍的系統記憶體，以及 4 倍的本機儲存空間。這些執行個體可提供市場領先的擴展功能，利用第二代 Elastic Fabric Adapter (EFA) 技術提供高達 3,200 Gbps 的網速，適用於分散式訓練及緊密耦合的 HPC 工作負載。 

本文章所記載內容僅供參考。如需 AWS Secret Cloud 中 Amazon EC2 P5 執行個體的詳細資訊，請聯絡我們。