Veröffentlicht am: Oct 4, 2019
Amazon SageMaker unterstützt nun ml.p3dn.24xlarge. Dabei handelt es sich um die leistungsstärkste P3-Instance, die für Machine Learning-Anwendungen optimiert ist. Diese Instance bietet eine höhere Netzwerkleistung, mit der Sie Engpässe bei Datenübertragungen eliminieren und die Nutzung von GPUs für maximale Instance-Leistung optimieren können.
Diese ml.p3dn.24xlarge-Instances bieten einen Netzwerkdurchsatz von bis zu 100 GBit/s, 96 angepasste und skalierbare Intel® Xeon® (Skylake) vCPUs, acht NVIDIA® p3dn GPUs mit Tensor-Kernen, jeweils 32 GB Arbeitsspeicher, 300 GB/s NVLINK-GPU-Verbindung und 1,8 TB lokalem, NVMe-basierten SSD-Speicher. Im Vergleich zur nächst größeren P3-Instance können Entwickler mit der vierfachen Erhöhung des Netzwerkdurchsatzes, gekoppelt mit schnelleren Prozessoren und einem lokalen, NVMe-basierten SSD-Speicher, ihre Machine Learning-Trainingsjobs auf verschiedene ml.p3dn.24xlarge-Instances effizient verteilen und Engpässe bei der Datenübertragung und der Vorverarbeitung eliminieren.
Unten finden Sie einen Vergleich zwischen Amazon SageMaker p3dn.24xlarge-Instances und bestehenden Amazon SageMaker ML P3-Instances.
| ML Instance-Typ | GPUs – Tesla V100 | GPU-Peer-to-Peer | GPU-Speicher (GB) | vCPUs | Speicher (GB) | Netzwerkbandbreite | EBS-Bandbreite | Lokaler Instance-Speicher |
|---|---|---|---|---|---|---|---|---|
| ml.p3.2xlarge | 1 | – | 16 | 8 (Broadwell) | 61 | Bis zu 10 GBit/s | 1,5 GBit/s | – |
| ml.p3.8xlarge | 4 | NVLink | 64 | 32 (Broadwell) | 244 | 10 GBit/s | 7 GBit/s | – |
| ml.p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 GBit/s | 14 GBit/s | – |
| ml.p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 GBit/s | 14 GBit/s | 2 x 900-GB-NVMe-SSD |
Amazon SageMaker ml.P3dn.24xlarge-Instances sind in den AWS-Regionen USA Ost (Nord-Virginia) und USA West (Oregon) verfügbar. Mit diesen Instances können Kunden die 1,8 TB des lokalen, NVMe-basierten SSD-Speichers verwenden und damit die Erfordernis eliminieren, zusätzliche ml-Speicher-Volumes zu erstellen und diese zu bezahlen. Rufen Sie die Amazon SageMaker-Dokumentation auf, um mehr über die Nutzung des lokalen, NVMe-basierten SSD-Speichers auf diesem Instance-Typ zu erfahren. Rufen Sie die P3-Seite auf, um mehr darüber zu erfahren, wie die P3-Instances durch AWS-Kunden genutzt werden.