Inserito il: Dec 7, 2018
Oggi, annunciamo che le istanze GPU P3dn.24xlarge di Amazon EC2, le nuove arrivate nella famiglia di istanze P3, sono disponibili al pubblico. Con una banda di rete fino a 4 volte maggiore delle istanze P3.16xlarge, le istanze P3dn.24xlarge sono ottimizzate per le applicazioni di machine learning e HPC distribuite. Queste nuove istanze offrono fino a 100 GB/s di throughput di rete, 96 vCPU Intel® Xeon® Scalable (Skylake) personalizzate, 8 GPU NVIDIA® Tesla® V100 Core con 32 GB di memoria ciascuna, interconnessione GPU NVLINK da 300 GB/s e 1,8 TB di storage SSD locale basato su NVMe.
Il networking più rapido, i nuovi processori con vCPU aggiuntive, il raddoppio della memoria GPU e un rapido storage delle istanze locali consentono agli sviluppatori non solo di ottimizzare le prestazioni di un’unica istanza, ma anche di ridurre notevolmente il tempo necessario all’addestramento dei modelli ML o di eseguire più simulazioni HPC ricalibrando le loro attività su varie istanze (ad es. 16, 32 o 64 istanze).
AWS è il primo provider cloud a fornire 100 GB/S di throughput di rete, un fattore che aiuta a eliminare i colli di bottiglia del trasferimento di dati e ottimizza l’utilizzo di GPU per fornire le massime prestazioni delle istanze. Inoltre, il raddoppio della memoria GPU da 16 GB a 32 GB per GPU offre la flessibilità per addestrare modelli di machine learning più grandi e avanzati, oltre a elaborare batch di dati di dimensioni superiori, come immagini 4k per i sistemi di classificazione delle immagini e rilevamento di oggetti.
Di seguito è riportato un confronto tra le istanze P3dn.24xlarge e le istanze P3 esistenti.
| Dimensioni istanza | GPU – Tesla V100 | Peer to peer GPU | Memoria GPU (GB) | vCPU | Memoria (GB) | Larghezza di banda di rete | Larghezza di banda EBS | Storage dell'istanza locale |
|---|---|---|---|---|---|---|---|---|
| p3.2xlarge | 1 | N/D | 16 | 8 (Broadwell) | 61 | Fino a 10 Gb/s | 1,5 GB/s | N/D |
| p3.8xlarge | 4 |
NVLink | 64 | 32 (Broadwell) | 244 | 10 Gb/s | 7 GB/s | N/D |
| p3.16xlarge | 8 | NVLink | 128 | 64 (Broadwell) | 488 | 25 Gb/s | 14 GB/s | N/D |
| p3dn.24xlarge | 8 | NVLink | 256 | 96 (Skylake) | 768 | 100 GB/s | 14 GB/s | SSD NVMe da 2 x 900 GB |
Le istanze P3dn.24xlarge sono disponibili nelle regioni AWS Stati Uniti orientali (Virginia) e Stati Uniti occidentali (Oregon) come istanze on demand, riservate o Spot. Per maggiori informazioni sulle istanze P3 e su come vengono utilizzate da clienti quali Airbnb, Salesforce e Western Digital, visita la pagina P3.