Istanze P3 di Amazon EC2

Applicazioni di apprendimento automatico e HPC più rapide grazie alla potenza delle GPU

Sono molte le aziende leader di settore, ad esempio Airbnb, Salesforce e Western Digital, che usano le istanze P3 di Amazon EC2 per rendere più rapide le loro applicazioni di apprendimento automatico e HPC.
Le istanze P3 di Amazon EC2 offrono un calcolo delle più elevate prestazioni nel cloud, sono economicamente vantaggiose, supportano tutti i principali framework di apprendimento automatico e sono disponibili a livello globale.
Alimentato da un massimo di otto GPU NVIDIA Tesla V100 di ultima generazione, le istanze P3 di Amazon EC2 offrono fino a 1 petaflop di prestazioni a precisione mista per istanza che accelera significativamente l'apprendimento automatico e le applicazioni di computing ad alte prestazioni. Le istanze P3 di Amazon EC2 velocizzano in modo significativo i tempi di addestramento per l'apprendimento automatico, riducendoli da giorni a minuti, e abbreviano i tempi di realizzazione di computing ad alte prestazioni.

ReInvent_HA_P3_EDITORIAL
L'88% dei progetti TensorFlow nel cloud sono in esecuzione in AWS.
In questo report, Nucleus Research rivela le cinque ragioni per cui i professionisti dell'apprendimento approfondito preferiscono AWS agli altri provider di servizi cloud.

GUARDA: scopri di più sulle istanze P3 di Amazon EC2 e scopri come, grazie a esse, Airbnb alimenta le sue applicazioni di apprendimento automatico (48:08 min).
AWS re:Invent 2017: Introduzione alle istanze P3 di Amazon EC2

Vantaggi

RIDUCI IL TEMPO DI APPRENDIMENTO AUTOMATICO DA GIORNI A MINUTI

Per i data scientist, i ricercatori e gli sviluppatori che hanno bisogno di velocizzare le applicazioni ML, le istanze P3 di Amazon EC2 sono più potenti di qualsiasi GPU disponibile sul cloud. Le istanze P3 di Amazon EC2 presentano fino a otto GPU NVIDIA Tesla V100 di ultima generazione e offrono fino a 1 petaflop di prestazioni a precisione mista per accelerare significativamente i carichi di lavoro ML. Una formazione più rapida sui modelli può consentire a data scientist e tecnici di apprendimento automatico di eseguire iterazioni più rapide, addestrare più modelli e aumentare la precisione.

 

LA SOLUZIONE PIÙ VANTAGGIOSA DEL SETTORE

Le istanze P3 di Amazon EC2 offrono piani tariffari diversi che ti consentono di risparmiare sui costi in base alle tue esigenze.  Oltre alle istanze on demand, dove il costo addebitato corrisponde esattamente alle istanze avviate, è possibile acquistare istanze riservate e disponibili in qualsiasi momento, per un periodo da uno a tre anni, con uno sconto significativo. Inoltre, è possibile utilizzare le istanze Spot che sfruttano le istanze EC2 non utilizzate, le quali riducono significativamente i costi di Amazon EC2.

COMPUTING AD ALTE PRESTAZIONI FLESSIBILE E POTENTE

A differenza dei sistemi locali, l'esecuzione di HPC (High Performance Computing) su istanze P3 di Amazon EC2 offre una capacità praticamente illimitata di scalare l'infrastruttura fornendo flessibilità di cambiare le risorse facilmente e con la frequenza richiesta dal carico di lavoro. È possibile configurare le risorse per soddisfare le esigenze della propria applicazione e avviare un cluster HPC (High-Performance Computing) in pochi minuti e con un costo addebitato che corrisponde all'uso effettivo.

INTEGRAZIONE CON I SERVIZI DI APPRENDIMENTO AUTOMATICO IN AWS

Le istanze P3 di Amazon EC2 ed Amazon SageMaker funzionano perfettamente insieme fornendo una piattaforma completa e intuitiva per l'apprendimento automatico. Amazon SageMaker è una piattaforma di apprendimento automatico completamente gestita che consente di creare, formare e implementare modelli di apprendimento automatico in modo semplice e rapido. Inoltre, è possibile integrare le istanze P3 di Amazon EC2 con le AMI di AWS Deep Learning con popolari framework preinstallati di apprendimento profondo che rendono più facile l'inizio dell'addestramento e delle inferenze.

SUPPORTO PER TUTTI I PRINCIPALI FRAMEWORK DI APPRENDIMENTO AUTOMATICO

Le istanze P3 di Amazon EC2 supportano tutti i più importanti framework di apprendimento automatico, tra cui TensorFlow, PyTorch, Apache MXNet, Caffe, Caffe2, Microsoft Cognitive Toolkit (CNTK), Chainer, Theano, Keras, Gluon e Torch. Gli utenti possono scegliere il framework che si adatta meglio alla propria applicazione.

Addestramento di apprendimento automatico scalabile multinodo

I clienti possono utilizzare più istanze P3 di EC2 per l'addestramento rapido di modelli di apprendimento automatico. È possibile configurare un cluster di storage e un cluster di calcolo per permettere a quest'ultimo di memorizzare i set di dati di addestramento e di convalida ed essere responsabile del trasferimento dei dati al cluster di calcolo, che, a sua volta, esegue i passaggi in avanti, la propagazione posteriore e gli aggiornamenti del peso.

Testimonianze dei clienti

200x100_AirBNB_Logo

In Airbnb, utilizziamo l'apprendimento automatico per ottimizzare le raccomandazioni di ricerca e migliorare le linee guida dinamiche sui prezzi per i proprietari: fattori che si traducono in maggiori conversioni in prenotazioni. In Airbnb, con le istanze P3 di Amazon EC2, abbiamo la possibilità di eseguire carichi di lavoro di addestramento più rapidi, che ci permettono di eseguire maggiori iterazioni, costruire modelli di apprendimento automatico migliori e ridurre i costi.

salesforce_logo_200x100

Salesforce sta utilizzando l'apprendimento automatico per alimentare Einstein Vision: questo consente agli sviluppatori di sfruttare la potenza del riconoscimento delle immagini in casi d'uso tra cui la ricerca visiva, il rilevamento del marchio e l'identificazione del prodotto. Le istanze P3 di Amazon EC2 consentono agli sviluppatori di formare, in modo rapido, modelli di apprendimento automatico che consentano di raggiungere rapidamente gli obiettivi di apprendimento automatico.

western-digital_200x100

Western Digital utilizza cluster HPC (High Performance Computing) per eseguire decine di migliaia di simulazioni che includono scienze dei materiali, flussi termici, magnetica e trasferimento dei dati, per migliorare le prestazioni e la qualità delle soluzioni delle unità hardware e di storage. Basati su test precoci, le istanze P3 di Amazon EC2 consentono ai team di progettazione di eseguire simulazioni almeno tre volte più velocemente rispetto alle soluzioni precedentemente implementate.  

schrodinger-200x100

Schrodinger utilizza il computing ad alte prestazioni (HPC) per sviluppare modelli predittivi finalizzati a estendere la portata della scoperta e dell'ottimizzazione e a offrire, ai propri clienti, la possibilità di commercializzare i farmaci salvavita in modo più rapido. Le istanze P3 di Amazon EC2 consentono a Schrodinger di eseguire, in un giorno, quattro volte il numero di simulazioni che otterrebbe con le istanze P2.  

Istanze P3 di Amazon EC2 e Amazon SageMaker

Il modo più veloce per addestrare ed eseguire modelli di apprendimento automatico

Amazon SageMaker è un servizio completamente gestito per la creazione, l'addestramento e la distribuzione di modelli di apprendimento automatico. È possibile utilizzare decine, centinaia o migliaia di GPU per addestrare un modello più rapidamente senza dover configurare pipeline di dati e cluster, nel caso in cui si associno all'uso di istanze P3 di Amazon EC2. Ora è possibile accedere facilmente alle risorse di Amazon Virtual Private Cloud (VPC) per i flussi di lavoro di addestramento e hosting in Amazon SageMaker. Con questa nuova funzionalità puoi utilizzare i bucket Amazon Simple Storage Service (S3), accessibili solamente attraverso il tuo VPC per l'archiviazione dei dati e inoltre per archiviare e ospitare i modelli derivati dai processi di addestramento. Oltre a S3, i modelli possono accedere a tutte le altre risorse AWS contenute nel VPC. Ulteriori informazioni.

Creazione

Amazon SageMaker semplifica la creazione di modelli di apprendimento automatico e la relativa preparazione all'addestramento fornendo tutto il necessario per connettersi rapidamente ai dati e selezionare e ottimizzare l'algoritmo e il framework migliori per ogni applicazione. Amazon SageMaker include notebook Jupyter in hosting, che facilitano esplorazione e visualizzazione dei dati di addestramento memorizzati in Amazon S3.  È inoltre possibile utilizzare l'istanza di notebook per scrivere codice e creare lavori di modello di addestramento, distribuire modelli in hosting su Amazon SageMaker ed eseguire test o convalidare modelli.

Addestramento

Per iniziare ad addestrare il modello con Amazon SageMaker, basta un clic sulla console o una semplice chiamata API. In Amazon SageMaker sono preconfigurate le versioni più recenti di TensorFlow e Apache MXNet, con il supporto alla libreria CUDA9 per ottenere le massime prestazioni dalle GPU NVIDIA. Inoltre, l'ottimizzazione automatica degli iperparametri permette di ottimizzare automaticamente i modelli, regolando in modo intelligente i parametri dell'algoritmo per ottenere dal modello le previsioni più accurate possibili. Per esigenze di scala maggiore, è possibile scalare a decine di istanze per consentire di creare più veloce.

Distribuzione

Una volta completato l'addestramento, per la distribuzione del modello su istanze EC2 con Auto Scaling su diverse zone di disponibilità basta un clic. Nella fase di produzione, Amazon SageMaker gestisce automaticamente, al posto tuo, l'infrastruttura di elaborazione per effettuare controlli di stato, applicare patch di sicurezza ed eseguire la manutenzione di routine, grazie a monitoraggio e registrazione di log integrati con Amazon CloudWatch.

 

Istanze P3 di Amazon EC2 e AMI di apprendimento approfondito su AWS

Ambienti di sviluppo preconfigurati per creare subito applicazioni di apprendimento profondo

Le AMI di apprendimento profondo di AWS sono un'alternativa ad Amazon SageMaker per gli sviluppatori con requisiti particolari; inoltre forniscono a professionisti e ricercatori l'infrastruttura e gli strumenti per migliorare la rapidità dell'apprendimento profondo nel cloud. È possibile lanciare rapidamente istanze P3 di Amazon EC2 con popolari framework preinstallati di apprendimento profondo, tra cui TensorFlow, PyTorch, Apache MXNet, Microsoft Cognitive Toolkit, Caffe, Caffe2, Theano, Torch, Chainer, Gluon e Keras per addestrare modelli di intelligenza artificiale sofisticati e personalizzati, sperimentare con nuovi algoritmi o apprendere nuove competenze e tecniche. Ulteriori informazioni.

Istanze P3 di Amazon EC2 e computing ad alte prestazioni

Risolvere problemi complessi di calcolo e ottenere nuove informazioni importanti utilizzando la potenza di HPC su AWS

Le istanze P3 di Amazon EC2 P3 sono una piattaforma ideale per eseguire simulazioni ingegneristiche, finanza computazionale, analisi sismiche, modellistica molecolare, genomica, renderizzazione e altri carichi di lavoro di elaborazione GPU. Il Computing ad alte prestazioni (HPC) consente agli scienziati e ai tecnici di risolvere problemi complessi che richiedono un'elaborazione intensiva. Le applicazioni HPC spesso richiedono prestazioni di rete elevate, storage veloce, grandi quantità di memoria e funzioni di elaborazione di alto livello. AWS permette di migliorare la velocità di ricerca e ridurre il tempo necessario per ottenere risultati grazie all'esecuzione di HPC nel cloud e all'utilizzo di un numero di attività in parallelo che non sarebbero praticabili nella maggior parte degli ambienti locali. AWS aiuta a ridurre i costi fornendo soluzioni ottimizzate per specifiche applicazioni senza grandi investimenti di capitali iniziali. Ulteriori informazioni.

Dettagli prodotto istanza P3 di Amazon EC2

Dimensione istanza GPU – Tesla V100 Peer to peer GPU Memoria GPU (GB) vCPU Memoria (GB) Larghezza di banda di rete Larghezza di banda EBS Prezzo on demand/h* Istanza riservata effettiva di 1 anno all'ora* Istanza riservata effettiva di 3 anno all'ora*
p3.2xlarge 1 N/D 16 8 61 Fino a 10 Gb/s 1,5 Gb/s

3,06 USD

1,99 USD

1,23 USD

p3.8xlarge 4 NVLink 64 32 244 10 Gb/s 7 Gb/s

12,24 USD

7,96 USD

4,93 USD

p3.16xlarge 8 NVLink 128 64 488 25 Gb/s 14 Gb/s

24,48 USD

15,91 USD

9,87 USD

*I prezzi sono calcolati per Linux/Unix nella regione AWS Stati Uniti orientali (Virginia). Per ulteriori dettagli sui prezzi, consulta la pagina dei prezzi di Amazon EC2

I clienti possono ora acquistare le istanze P3 come Istanze On Demand, Istanze Riservate, Istanze Spot e Host Dedicati.

FATTURAZIONE AL SECONDO

Uno dei molti vantaggi del cloud computing è la natura elastica delle risorse di provisioning o deprovisioning a seconda delle esigenze. Riducendo l'utilizzo fino al secondo, consentiamo ai clienti di aumentare la loro elasticità, risparmiare denaro e consentire loro di ottimizzare l'allocazione delle risorse verso il raggiungimento degli obiettivi di apprendimento automatico.

PREZZI DELLE ISTANZE RISERVATE

Le istanze riservate offrono una notevole riduzione di prezzo, fino al 75%, rispetto alle istanze on demand. L'acquisto di un'istanza riservata in una zona di disponibilità specifica consente di prenotare capacità in tale zona, per garantire il corretto avvio di istanze esattamente nel momento in cui servono.

PREZZI SPOT

I costi addebitati per le istanze Spot saranno quelli del prezzo Spot in corso di validità durante l'esecuzione delle istanze. I prezzi delle istanze Spot sono stabiliti da Amazon EC2 e regolati in modo graduale in base ai trend a lungo termine di offerta e domanda di capacità inutilizzata dell'istanza Spot. Le istanze Spot sono disponibili con prezzi fino al 90% inferiori rispetto ai prezzi on demand.

La disponibilità globale più ampia

1856-Updated Map Image-P3 Instances-transparentBG_1024x543

Le istanze P3 di Amazon EC2 sono disponibili in 14 regioni AWS, fornendo la flessibilità necessaria per formare e distribuire i modelli di apprendimento automatico dove si trovano i dati. Le regioni AWS disponibili per EC2 P3 sono: Stati Uniti orientali (Virginia), Stati Uniti orientali (Ohio), Stati Uniti occidentali (Oregon), Canada (Centrale), UE (Irlanda), UE (Francoforte), UE (Londra), Asia e Pacifico (Tokyo), Asia e Pacifico (Seoul), Asia e Pacifico (Sydney), Asia e Pacifico (Singapore), Cina (Pechino), Cina (Ningxia) e Govcloud (Stati Uniti).

Inizia a usare le istanze P3 di Amazon EC2 per l'apprendimento automatico

Per iniziare in pochi minuti, scopri di più su Amazon SageMaker o usa l'AMI di apprendimento approfondito su AWS con popolari framework preinstallati di apprendimento profondo, ad esempio Caffe2 e Mxnet. In alternativa, puoi anche usare l'AMI NVIDIA con driver GPU e kit di strumenti CUDA preinstallato.

Scopri di più sulle caratteristiche di Amazon SageMaker

Fai clic qui per ulteriori informazioni

Maggiori informazioni sull'apprendimento profondo in AWS

Fai clic qui per ulteriori informazioni

Ulteriori informazioni su High Performance Computing (HPC)

Fai clic qui per ulteriori informazioni
Sei pronto per iniziare?
Registrati
Hai altre domande?
Contattaci