Amazon-EC2-P5-Instances sind nun in AWS Secret Cloud verfügbar

Veröffentlicht am: 15. Aug. 2024

Die Amazon Elastic Compute Cloud (Amazon EC2) P5-Instances, die mit NVIDIA H100 Tensor Core-GPUs betrieben werden, sind nun in der AWS Secret Cloud verfügbar. Amazon-EC2-P5-Instance helfen Ihnen dabei, die Zeit bis zur Lösung im Vergleich zu GPU-basierten P5-Instances der vorherigen Generation um das 4-fache zu verkürzen und die Kosten für das Training von ML-Modellen um bis zu 40 % zu senken.

Sie können P5-Instances für das Training und die Bereitstellung von immer komplexeren großen Sprachmodellen (LLMs) und Diffusionsmodellen verwenden, die die anspruchsvollsten generativen KI-Anwendungen antreiben. Dazu gehören die Beantwortung von Fragen, Codegenerierung, Video- und Bildgenerierung, Spracherkennung und mehr. Sie können P5-Instances auch verwenden, um anspruchsvolle HPC-Anwendungen in großem Maßstab für die pharmazeutische Forschung, seismische Analyse, Wettervorhersage und Finanzmodellierung bereitzustellen.

P5-Instances werden von den neuesten NVIDIA H100 Tensor Core GPUs angetrieben und bieten im Vergleich zu GPU-basierten Instances der vorherigen Generation eine doppelt so hohe CPU-Leistung, einen doppelt so großen Systemspeicher und einen vierfach höheren lokalen Speicher. Sie bieten marktführende Scale-Out-Fähigkeiten für verteiltes Training und eng gekoppelte HPC-Workloads mit bis zu 3.200 Gbit/s an Netzwerken mithilfe der Elastic Fabric Adapter (EFA)-Technologie der zweiten Generation. 

Der Inhalt dieses Beitrags dient ausschließlich zu Informationszwecken. Für weitere Informationen zu den Amazon-EC2-P5-Instances in der AWS Secret Cloud kontaktieren Sie uns bitte.