Inserito il: Oct 4, 2019
Amazon SageMaker ora supporta ml.p3dn.24xlarge, l'istanza P3 più potente ottimizzata per le applicazioni di machine learning. Questa istanza offre una rete più veloce che aiuta a rimuovere gli imbottigliamenti durante il trasferimento dei dati e ottimizza l'utilizzo delle GPU per offrire le massime prestazioni per l'addestramento dei modelli di deep learning.
Le istanze ml.p3dn.24xlarge offrono fino a 100 GB/s di throughput di rete, 96 vCPU Intel® Xeon® Scalable (Skylake) personalizzate, 8 GPU NVIDIA® V100 Tensor Core con 32 GB di memoria ciascuna, interconnessione GPU NVLINK da 300 GB/s e 1,8 TB di storage SSD locale basato su NVMe. Rispetto all’istanza P3 principale di dimensioni superiori, l'aumento di 4 volte del throughput di rete, combinato con processori più veloci e con lo storage SSD locale basato su NVMe, consentirà agli sviluppatori di distribuire in modo efficiente i loro lavori di formazione sul machine learning su diverse istanze ml.p3dn.24xlarge e rimuovere il trasferimento di dati e gli imbottigliamenti di preelaborazione.
Di seguito è riportato un confronto tra le istanze ml.p3dn.24xlarge di Amazon SageMaker e le istanze P3 di ML di Amazon SageMaker esistenti.
| Tipo di istanza ML | GPU – Tesla V100 | Peer to peer GPU | Memoria GPU (GB) | vCPU | Memoria (GB) | Larghezza di banda di rete | Larghezza di banda EBS | Storage dell'istanza locale |
|---|---|---|---|---|---|---|---|---|
| ml.p3.2xlarge | 1 | N/D | 16 | 8 (Broadwell) | 61 | Fino a 10 Gb/s | 1,5 GB/s | N/D |
| ml.p3.8xlarge | 4 | NVLink | 64 | 32 (Broadwell) | 244 | 10 Gb/s | 7 GB/s | N/D |
| ml.p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 Gbps | 14 GB/s | N/D |
| ml.p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 GB/s | 14 GB/s | SSD NVMe da 2 x 900 GB |
Le istanze P3dn.24xlarge di Amazon SageMaker sono disponibili nelle regioni AWS degli Stati Uniti orientali (Virginia settentrionale) e Stati Uniti occidentali (Oregon). Queste istanze consentono ai clienti di utilizzare 1,8 TB di storage SSD locale basato su NVMe eliminando così la necessità di creare e pagare volumi di storage ml aggiuntivi. Visita la documentazione di Amazon SageMaker, per ulteriori informazioni sull'utilizzo di storage SSD locale basato su NVMe e su questo tipo di istanza. Visita la pagina delle istanze P3, per ulteriori informazioni su come esse vengono utilizzate dai clienti AWS.