Istanze P3 di Amazon EC2

Applicazioni di apprendimento automatico e HPC più rapide grazie alla potenza delle GPU

Le istanze P3 di Amazon EC2 forniscono elevate prestazioni di calcolo nel cloud con fino a 8 GPU NVIDIA® Tesla® V100 e fino a 100 GB/s di throughput di rete per applicazioni di machine learning e HPC. Queste istanze offrono fino a un petaflop di prestazioni a precisione mista per istanza che accelera significativamente l'apprendimento automatico e le applicazioni di elaborazione ad alte prestazioni. Le istanze P3 di Amazon EC2 velocizzano in modo significativo i tempi di addestramento per l'apprendimento automatico, riducendoli da giorni a minuti, e aumentano il numero di simulazioni completate per il calcolo ad alte prestazioni di 3-4 volte.
Con una banda di rete fino a 4 volte maggiore delle istanze P3.16xlarge, le istanze P3dn.24xlarge di Amazon EC2 saranno le nuove arrivate nella famiglia P3, ottimizzata per le applicazioni di machine learning e HPC distribuite. Queste istanze offrono fino a 100 GB/s di throughput di rete, 96 vCPU Intel® Xeon® Scalable (Skylake), 8 GPU NVIDIA® Tesla® V100 con 32 GB di memoria ciascuna e 1,8 TB di storage SSD locale basato su NVMe.

Disponibile a breve: P3dn.24xlarge di Amazon EC2, l’istanza P3 più potente ad oggi

Ottimizzata per l’addestramento di machine learning distribuito e High Performance Computing

ReInvent_HA_P3_EDITORIAL

Vantaggi

RIDUCI IL TEMPO DI APPRENDIMENTO AUTOMATICO DA GIORNI A MINUTI

Per i data scientist, i ricercatori e gli sviluppatori che hanno bisogno di velocizzare le applicazioni ML, le istanze P3 di Amazon EC2 sono le più rapide nel cloud per l’addestramento ML. Le istanze P3 di Amazon EC2 presentano fino a otto GPU NVIDIA Tesla V100 di ultima generazione e offrono fino a un petaflop di prestazioni a precisione mista per accelerare significativamente i carichi di lavoro ML. Una formazione più rapida sui modelli può consentire a data scientist e tecnici di apprendimento automatico di eseguire iterazioni più rapide, addestrare più modelli e aumentare la precisione.

LA SOLUZIONE PIÙ VANTAGGIOSA DEL SETTORE PER L’ADDESTRAMENTO ML

Una delle istanze GPU più potenti nel cloud combinata con piani di prezzi flessibili determina una soluzione dalla straordinaria convenienza per l’addestramento del machine learning. Come per le istanze di Amazon EC2 in generale, le istanze P3 sono disponibili come istanze on demand, istanze riservate o istanze Spot. Le istanze Spot traggono vantaggio dalla capacità inutilizzata delle istanze EC2 e possono ridurre notevolmente i costi di Amazon EC2 con uno sconto fino al 70% rispetto ai prezzi on demand.

COMPUTING AD ALTE PRESTAZIONI FLESSIBILE E POTENTE

A differenza dei sistemi locali, l'esecuzione di HPC (High Performance Computing) su istanze P3 di Amazon EC2 offre una capacità praticamente illimitata di scalare l'infrastruttura fornendo flessibilità di cambiare le risorse facilmente e con la frequenza richiesta dal carico di lavoro. È possibile configurare le risorse per soddisfare le esigenze della propria applicazione e avviare un cluster HPC (High-Performance Computing) in pochi minuti e con un costo addebitato che corrisponde all'uso effettivo.

INTEGRAZIONE CON I SERVIZI DI APPRENDIMENTO AUTOMATICO IN AWS

Le istanze P3 di Amazon EC2 ed Amazon SageMaker funzionano perfettamente insieme fornendo una piattaforma completa e intuitiva per l'apprendimento automatico. Amazon SageMaker è una piattaforma di apprendimento automatico completamente gestita che consente di creare, formare e implementare modelli di apprendimento automatico in modo semplice e rapido. Inoltre, è possibile integrare le istanze P3 di Amazon EC2 con le AMI di AWS Deep Learning con popolari framework preinstallati di apprendimento approfondito. Questo facilita e velocizza l’inizio delle operazioni di addestramento e inferenza di machine learning.

SUPPORTO PER TUTTI I PRINCIPALI FRAMEWORK DI APPRENDIMENTO AUTOMATICO

Le istanze P3 di Amazon EC2 supportano tutti i più importanti framework di apprendimento automatico, tra cui TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon e Torch. Offrono la flessibilità di scegliere il framework più adatto per la tua applicazione.

Addestramento di apprendimento automatico scalabile multinodo

Puoi utilizzare più istanze P3 di Amazon EC2 con fino a 100 GB/s di throughput di rete per addestrare rapidamente modelli di machine learning. Un throughput di rete più elevato consente agli sviluppatori di eliminare i colli di bottiglia durante il trasferimento dei dati e ricalibrare in modo efficiente le attività di addestramento dei modelli su più istanze P3. I clienti hanno ottenuto la possibilità di addestrare ResNet-50, un modello di classificazione di immagini comune, secondo l’accuratezza dello standard di settore in soli 18 minuti utilizzando 16 istanze P3. Questo livello di performance era prima irraggiungibile dalla maggior parte dei clienti ML, dal momento che richiedeva un grosso investimento CapEx per la creazione di cluster di GPU on premise. Con le istanze P3 e la relativa disponibilità tramite il modello di utilizzo on demand, questo livello di prestazioni è ora accessibile a tutti gli sviluppatori e gli ingegneri di machine learning.

Testimonianze dei clienti

200x100_AirBNB_Logo

In Airbnb, utilizziamo l'apprendimento automatico per ottimizzare le raccomandazioni di ricerca e migliorare le linee guida dinamiche sui prezzi per i proprietari: fattori che si traducono in maggiori conversioni in prenotazioni. In Airbnb, con le istanze P3 di Amazon EC2, possiamo eseguire carichi di lavoro di addestramento più rapidi, che ci permettono di eseguire maggiori iterazioni, costruire modelli di apprendimento automatico migliori e ridurre i costi.

salesforce_logo_200x100

Salesforce sta utilizzando l'apprendimento automatico per alimentare Einstein Vision: questo consente agli sviluppatori di sfruttare la potenza del riconoscimento delle immagini in casi d'uso tra cui la ricerca visiva, il rilevamento del marchio e l'identificazione del prodotto. Le istanze P3 di Amazon EC2 consentono agli sviluppatori di formare, in modo rapido, modelli di apprendimento automatico che consentano di raggiungere rapidamente gli obiettivi di apprendimento automatico.

western-digital_200x100

Western Digital utilizza cluster HPC (High Performance Computing) per eseguire decine di migliaia di simulazioni che includono scienze dei materiali, flussi termici, magnetica e trasferimento dei dati, per migliorare le prestazioni e la qualità delle soluzioni delle unità hardware e di storage. Basate su test precoci, le istanze P3 di Amazon EC2 consentono ai team di progettazione di eseguire simulazioni almeno tre volte più velocemente rispetto alle soluzioni precedentemente implementate.  

schrodinger-200x100

Schrodinger utilizza il computing ad alte prestazioni (HPC) per sviluppare modelli predittivi finalizzati a estendere la portata della scoperta e dell'ottimizzazione e a offrire, ai propri clienti, la possibilità di commercializzare i farmaci salvavita in modo più rapido. Le istanze P3 di Amazon EC2 consentono a Schrodinger di eseguire, in un giorno, quattro volte il numero di simulazioni che otterrebbe con le istanze P2.  

Istanze P3 di Amazon EC2 e Amazon SageMaker

Il modo più veloce per addestrare ed eseguire modelli di apprendimento automatico

Amazon SageMaker è un servizio completamente gestito per la creazione, l'addestramento e la distribuzione di modelli di apprendimento automatico. È possibile utilizzare decine, centinaia o migliaia di GPU per addestrare un modello più rapidamente senza dover configurare pipeline di dati e cluster, nel caso in cui si associno all'uso di istanze P3 di Amazon EC2. Ora è possibile accedere facilmente alle risorse di Amazon Virtual Private Cloud (Amazon VPC) per i flussi di lavoro di addestramento e hosting in Amazon SageMaker. Con questa nuova funzionalità puoi utilizzare i bucket Amazon Simple Storage Service (Amazon S3), accessibili solamente attraverso il tuo VPC per l'archiviazione dei dati e inoltre per archiviare e ospitare i modelli derivati dai processi di addestramento. Oltre a S3, i modelli possono accedere a tutte le altre risorse AWS contenute nel VPC. Ulteriori informazioni.

Build

Amazon SageMaker facilita la creazione di modelli di machine learning e li predispone per l’addestramento. Fornisce tutto ciò che occorre per connettersi rapidamente ai dati di addestramento e selezionare e ottimizzare il miglior algoritmo e framework per la tua applicazione. Amazon SageMaker include notebook Jupyter in hosting, che facilitano esplorazione e visualizzazione dei dati di addestramento memorizzati in Amazon S3.  È inoltre possibile utilizzare l'istanza di notebook per scrivere codice e creare lavori di modello di addestramento, distribuire modelli in hosting su Amazon SageMaker ed eseguire test o convalidare modelli.

Addestramento

Per iniziare ad addestrare il modello con Amazon SageMaker, basta un clic sulla console o una chiamata API. In Amazon SageMaker sono preconfigurate le versioni più recenti di TensorFlow e Apache MXNet e con il supporto alla libreria CUDA9 per ottenere le massime prestazioni dalle GPU NVIDIA. Inoltre, l'ottimizzazione automatica degli iperparametri permette di ottimizzare automaticamente i modelli, regolando in modo intelligente i parametri dell'algoritmo per ottenere dal modello le previsioni più accurate possibili. Per esigenze di scala maggiore, è possibile scalare a decine di istanze per consentire di creare più veloce.

Distribuzione

Una volta completato l'addestramento, basta un solo clic per la distribuzione del modello su istanze di Amazon EC2 con Auto Scaling su diverse zone di disponibilità. Nella fase di produzione, Amazon SageMaker gestisce automaticamente, al posto tuo, l'infrastruttura di elaborazione per effettuare controlli di stato, applicare patch di sicurezza ed eseguire la manutenzione di routine, grazie a monitoraggio e registrazione di log integrati con Amazon CloudWatch.

 

Istanze P3 di Amazon EC2 e AMI di apprendimento approfondito su AWS

Ambienti di sviluppo preconfigurati per creare subito applicazioni di apprendimento profondo

Le AMI di apprendimento approfondito di AWS sono un'alternativa ad Amazon SageMaker per gli sviluppatori con requisiti particolari; inoltre forniscono a professionisti e ricercatori l'infrastruttura e gli strumenti per migliorare la rapidità dell'apprendimento approfondito nel cloud. È possibile lanciare rapidamente istanze P3 di Amazon EC2 con popolari framework preinstallati di apprendimento approfondito, tra cui TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon e Keras per addestrare modelli di intelligenza artificiale sofisticati e personalizzati, sperimentare con nuovi algoritmi o apprendere nuove competenze e tecniche. Ulteriori informazioni

Istanze P3 di Amazon EC2 e computing ad alte prestazioni

Risolvere problemi complessi di calcolo e ottenere nuove informazioni importanti utilizzando la potenza di HPC su AWS

Le istanze P3 di Amazon EC2 sono una piattaforma ideale per eseguire simulazioni ingegneristiche, finanza computazionale, analisi sismiche, modellistica molecolare, genomica, renderizzazione e altri carichi di lavoro di elaborazione GPU. Il Computing ad alte prestazioni (HPC) consente agli scienziati e ai tecnici di risolvere problemi complessi che richiedono un'elaborazione intensiva. Le applicazioni HPC spesso richiedono prestazioni di rete elevate, storage veloce, grandi quantità di memoria e funzioni di elaborazione di alto livello o tutte queste caratteristiche insieme. AWS permette di migliorare la velocità di ricerca e ridurre il tempo necessario per ottenere risultati grazie all'esecuzione di HPC nel cloud e all'utilizzo di un numero di attività in parallelo che non sarebbero praticabili nella maggior parte degli ambienti locali. AWS aiuta a ridurre i costi fornendo soluzioni ottimizzate per specifiche applicazioni senza grandi investimenti di capitali iniziali. Ulteriori informazioni

Istanze P3dn.24xlarge di Amazon EC2

Disponibile a breve: nuove dimensioni di istanze più rapide, più potenti e più grandi, ottimizzate per machine learning e High Performance Computing distribuiti

Le istanze P3dn.24xlarge di Amazon EC2 sono le istanze di dimensioni P3 più rapide, più potenti e più grandi disponibili e forniscono fino a 100 GB/s di throughput di rete, 8 GPU NVIDIA® Tesla® V100 con 32 GB di memoria ciascuna, 96 vCPU Intel® Xeon® Scalable (Skylake) personalizzate e 1,8 TB di storage SSD basato su NVMe. Il networking più rapido, i nuovi processori, il raddoppio della memoria GPU e le vCPU aggiuntive consentono agli sviluppatori di ridurre notevolmente il tempo necessario all’addestramento dei modelli ML o di eseguire più simulazioni HPC ricalibrando le loro attività su varie istanze (ad es. 16, 32 o 64 istanze). I modelli di machine learning richiedono grandi quantità di dati per l’addestramento e, in aggiunta a un aumento del throughput dei dati di trasferimento tra istanze, è inoltre possibile utilizzare il throughput di rete aggiuntivo delle istanze P3dn.24xlarge per accelerare l’accesso a grandi quantità di dati di addestramento con la connessione ad Amazon S3 o soluzioni di sistemi di file condivisi, quali Amazon EFS.

ELIMINA I COLLI DI BOTTIGLIA E RIDUCI IL TEMPO DI ADDESTRAMENTO DEL MACHINE LEARNING

Con 100 GB/s di throughput di rete, gli sviluppatori possono utilizzare in modo efficiente un grande numero di istanze P3dn.24xlarge (ad es., 16, 32 o 64 istanze) per l’addestramento distribuito e ridurre notevolmente il tempo necessario per l’addestramento dei modelli. Le 96 vCPU dei processori Intel Skylake personalizzati di AWS con istruzioni AVX-512 operative a 2,5 GHz contribuiscono all’ottimizzazione della pre-elaborazione dei dati. Inoltre, le istanze P3dn.24xlarge utilizzano il sistema Nitro, una combinazione di hardware dedicato e hypervisor leggero che fornisce tutte le risorse di memoria ed elaborazione dell'hardware host alle tue istanze.

 

Minori costi di proprietà con l’ottimizzazione dell’utilizzo di GPU

Il potenziamento delle reti utilizzando la versione più recente di Elastic Network Adapter con fino a 100 GB/s di banda di rete aggregata può essere utilizzato non solo per condividere i dati tra varie istanze P3dn.24xlarge, ma anche per l’accesso ai dati a throughput elevato tramite Amazon S3 o una soluzione di sistemi di file condivisi, come Amazon EFS. L’accesso ai dati a throughput elevato è fondamentale per ottimizzare l’utilizzo delle GPU e fornire massime prestazioni dalle istanze di calcolo.

Supporto di modelli più grandi e complessi

Le istanze P3dn.24xlarge offrono GPU NVIDIA Tesla V100 con 32 GB di memoria per ottenere la flessibilità per addestrare modelli di machine learning più grandi e avanzati, oltre a elaborare batch di dati di dimensioni superiori, come immagini 4k per i sistemi di classificazione delle immagini e rilevamento di oggetti.

 

Dettagli prodotto istanza P3 di Amazon EC2

Dimensione istanza GPU – Tesla V100 Peer to peer GPU Memoria GPU (GB) vCPU Memoria (GB) Larghezza di banda di rete Larghezza di banda EBS Prezzo on demand/h* Istanza riservata effettiva di 1 anno all'ora* Istanza riservata effettiva di 3 anno all'ora*
p3.2xlarge 1 N/D 16 8 61 Fino a 10 Gb/s 1,5 Gb/s 3,06 USD 1,99 USD 1,23 USD
p3.8xlarge 4
NVLink 64 32 244 10 Gb/s 7 Gb/s 12,24 USD 7,96 USD 4,93 USD
p3.16xlarge 8 NVLink 128 64 488 25 Gb/s 14 Gb/s 24,48 USD 15,91 USD 9,87 USD
p3dn.24xlarge* 8 NVLink 256 96 768 100 GB/s 14 GB/s Disponibile a breve Disponibile a breve Disponibile a breve

*Disponibile a breve

I prezzi sono calcolati per Linux/Unix nella regione AWS Stati Uniti orientali (Virginia) e arrotondati al centesimo più vicino. Per ulteriori dettagli, consulta la pagina dei prezzi di Amazon EC2.

I clienti possono ora acquistare le istanze P3 come Istanze On Demand, Istanze Riservate, Istanze Spot e Host Dedicati.

FATTURAZIONE AL SECONDO

Uno dei molti vantaggi del cloud computing è la natura elastica delle risorse di provisioning o deprovisioning a seconda delle esigenze. Riducendo l'utilizzo fino al secondo, consentiamo ai clienti di aumentare la loro elasticità, risparmiare denaro e consentire loro di ottimizzare l'allocazione delle risorse verso il raggiungimento degli obiettivi di apprendimento automatico.

PREZZI DELLE ISTANZE RISERVATE

Le istanze riservate offrono una notevole riduzione (fino al 75%) rispetto ai prezzi delle istanze on demand. L'acquisto di un'istanza riservata in una zona di disponibilità specifica consente di prenotare capacità in tale zona, per garantire il corretto avvio di istanze esattamente nel momento in cui servono.

PREZZI SPOT

I costi addebitati per le istanze Spot saranno quelli del prezzo Spot in corso di validità durante l'esecuzione delle istanze. I prezzi delle istanze Spot sono stabiliti da Amazon EC2 e regolati in modo graduale in base ai trend a lungo termine di offerta e domanda di capacità inutilizzata dell'istanza Spot. Le istanze Spot sono disponibili con prezzi fino al 90% inferiori rispetto ai prezzi on demand.

La disponibilità globale più ampia

1856-Updated Map Image-P3 Instances-transparentBG_1024x543

Le istanze P3.2xlarge, P3.8xlarge e P3.16xlarge di Amazon EC2 sono disponibili in 14 regioni AWS, fornendo la flessibilità necessaria per formare e distribuire i modelli di apprendimento automatico dove si trovano i dati. Le regioni AWS disponibili per P3 sono: Stati Uniti orientali (Virginia), Stati Uniti orientali (Ohio), Stati Uniti occidentali (Oregon), Canada (Centrale), UE (Irlanda), UE (Francoforte), UE (Londra), Asia e Pacifico (Tokyo), Asia e Pacifico (Seoul), Asia e Pacifico (Sydney), Asia e Pacifico (Singapore), Cina (Pechino), Cina (Ningxia) e AWS Govcloud (Stati Uniti).

La disponibilità regionale di P3dn.24xlarge verrà annunciata una volta che le istanze saranno generalmente disponibili.

Inizia a usare le istanze P3 di Amazon EC2 per l'apprendimento automatico

Per iniziare in pochi minuti, scopri di più su Amazon SageMaker o usa l'AMI di apprendimento approfondito su AWS con popolari framework preinstallati di apprendimento approfondito, ad esempio Caffe2 e MXNet. In alternativa, puoi anche usare l'AMI NVIDIA con driver GPU e kit di strumenti CUDA preinstallato.

Informazioni su Amazon SageMaker

Fai clic qui per ulteriori informazioni

Informazioni sull’apprendimento approfondito in AWS

Fai clic qui per ulteriori informazioni

Informazioni su High Performance Computing (HPC)

Fai clic qui per ulteriori informazioni
Sei pronto per iniziare?
Registrati
Hai altre domande?
Contattaci