Amazon EMR è l'ambiente migliore per eseguire Apache Spark. È possibile creare in modo rapido e veloce cluster Spark tramite la Console di gestione AWS, l'interfaccia a riga di comando o l'API di Amazon EMR. È anche possibile sfruttare altre funzionalità di Amazon EMR, ad esempio le rapide connessioni di Amazon S3 tramite il file system di Amazon EMR o EMRFS, l'integrazione con il marketplace di istanze Spot di Amazon EC2 e il catalogo dati AWS Glue, nonché la funzione di Auto Scaling per aggiungere o rimuovere istanze dal cluster. AWS Lake Formation offre un controllo granulare degli accessi, mentre l'integrazione con. AWS Step Functions aiuta a orchestrare le pipeline di dati. EMR Notebooks semplifica la sperimentazione e la creazione di applicazioni con Spark. Se lo desideri, è inoltre possibile utilizzare Apache Zeppelin per creare notebook interattivi e collaborativi per la visualizzazione dei dati tramite Spark.

Ulteriori informazioni su Apache Spark sono disponibili in questa pagina.

Caratteristiche e vantaggi

Prestazioni ottimali

EMR presenta un ambiente di runtime ottimizzato per le prestazioni per Apache Spark; questo servizio è abilitato per impostazione predefinita. Il runtime EMR per Spark può raggiungere 3 volte la velocità e il 100% di compatibilità con le API del 100% con la versione standard di Spark. Grazie a prestazioni ottimizzate, i carichi di lavoro vengono eseguiti più rapidamente il che consente di risparmiare sui costi di calcolo, senza dover apportare modifiche alle applicazioni.

Spark consente di creare piani di query efficienti per la trasformazione dei dati utilizzando un motore di esecuzione di grafi aciclici diretti. Spark, inoltre, memorizza dati in ingresso, in uscita e parziali in memoria come dataframe resilienti o RDD (Resilient Distributed Dataset), grazie ai quali le prestazioni di elaborazione di carichi di lavoro iterativi ed interattivi risultano migliori senza pesare sulle operazioni I/O.

Sviluppa applicazioni in modo rapido e collaborativo

Apache Spark offre supporto nativo per Java, Scala, SQL e Python che fornisce un'ampia libertà per quanto riguarda il linguaggio di programmazione delle applicazioni. È inoltre possibile inviare query SQL o HiveQL mediante il modulo Spark SQL. In aggiunta alle applicazioni in esecuzione, è possibile usare l'API di Spark in modo interattivo con Python o Scala direttamente nella shell di Spark o tramite notebook di Jupyter nel cluster. Il supporto per Apache Hadoop 3.0 in EMR 6.0 offre il supporto per il container Docker che consente di semplificare la gestione delle dipendenze. È anche possibile avvalersi di notebook EMR(basati su Jupyter) indipendenti dal cluster oppure di Zeppelin per creare notebook interattivi e collaborativi per la visualizzazione e la navigazione nei dati. È possibile ottimizzare ed eseguire il debug dei carichi di lavoro nella console EMR che dispone di un server della cronologia di Spark persistente fuori cluster.

Carichi di lavoro diversificati

Apache Spark include diverse librerie, che aiutano a creare applicazioni per machine learning (MLlib), elaborazione di flussi (Spark Streaming) ed elaborazione di grafi (GraphX). Queste librerie sono integrate nell'ecosistema di Spark e possono essere impiegate senza ulteriori configurazioni per diversi casi d'uso. Inoltre, è possibile utilizzare framework di deep learning quali Apache MXNet con le applicazioni Spark. L'integrazione con AWS Step Functions consente di aggiungere automazione e orchestrazione del flusso di lavoro serverless alle tue applicazioni.

Integrazione con le caratteristiche di Amazon EMR

È possibile avviare un processo di Apache Spark con l'API Step di EMR, utilizzare Spark con EMRFS per accedere direttamente ai dati in S3, ridurre i costi utilizzando la capacità di istanze Spot EC2, impiegare il servizio Auto Scaling interamente gestito per aggiungere e rimuovere capacità in modo dinamico e avviare cluster temporanei o a lungo termine a seconda del carico di lavoro. È anche possibile configurare la crittografia tramite Spark e l'autenticazione tramite Kerberos con la massima semplicità mediante una configurazione di sicurezza di EMR. Inoltre, è possibile avvalersi del catalogo dati di AWS Glue per memorizzare i metadati della tabella Spark SQL o impiegare Amazon SageMaker in pipeline di machine learning Spark. EMR installa e gestisce Apache Spark in Hadoop YARN e consente di aggiungere al cluster altre applicazioni di Big Data. EMR con Apache Hudi consente di gestire in modo più efficiente l'acquisizione di dati di modifica (Change Data Capture/CDC) e aiuta con le normative sulla privacy come GDPR e CCPA semplificando la cancellazione dei record. Fai clic qui per ulteriori informazioni sulle caratteristiche di EMR.

Casi d'uso

Elaborazione in flussi

Acquisisci ed elabora dati in tempo reale da Amazon Kinesis, Apache Kafka o altri flussi di dati con Spark Streaming in EMR. Esegui analisi di flussi con tolleranza ai guasti e salvataggio dei risultati in S3 o HDFS su cluster.

Machine Learning

Apache Spark in Amazon EMR include MLlib, che offre una serie di algoritmi scalabili di machine learning; in alternativa, potrai impiegare librerie personalizzate. Salvando i set di dati in memoria durante i processi, Spark ottiene prestazioni di alto livello per le query iterative, comuni nei carichi di lavoro di machine learning.

Interattività SQL

Usa Spark SQL per query interattive a bassa latenza con SQL o HiveQL. Spark in EMR sfrutta EMRFS per offrire accesso ad hoc ai set di dati in S3. Sarà inoltre possibile utilizzare i notebook EMR, i notebook Zeppelin o gli strumenti di business intelligence tramite connessioni ODBC e JDBC.

Storie di successo dei clienti

Yelp

Yelp

Il team di Yelp che si occupa del pubblico delle inserzioni crea modelli predittivi per determinare le probabilità che un utente interagisca con un'inserzione. Utilizzando Apache Spark in Amazon EMR per elaborare grandi quantità di dati e alimentare modelli di machine learning, Yelp ha aumentato i guadagni e la percentuale di clic delle proprie inserzioni.

The Washington Post

Washington Post

Il Washington post usa Apache Spark in Amazon EMR per creare modelli sui quali si basa il motore di raccomandazione del sito Web e migliorare il coinvolgimento e la soddisfazione dei lettori. Il quotidiano sfrutta la connettività di Amazon EMR con Amazon S3 per aggiornare i modelli quasi in tempo reale.

Intent Media

Intent Media

Intent Media dispone di una piattaforma per la gestione di inserzioni su siti di viaggi. I tecnici IT usano Apache Spark e MLlib in Amazon EMR per acquisire terabyte di dati di e-commerce ogni giorno e utilizzare queste informazioni per i servizi di posizionamento, ottimizzando i guadagni dei clienti. Fai clic qui per ulteriori informazioni

Krux

Krux

Krux impiega diversi carichi di lavoro di machine learning e generiche attività di elaborazione tramite Apache Spark per la propria piattaforma di gestione dei dati. Per risparmiare sui costi, Krux usa cluster Amazon EMR temporanei con istanze Spot di Amazon EC2, nonché Amazon S3 con EMRFS come layer dei dati per Apache Spark.

Scopri di più »

GumGum

GumGum

GumGum, una piattaforma pubblicitaria di annunci illustrati e pop-up, usa Spark in Amazon EMR per eseguire previsioni di inventario, elaborare log di clickstream e completare analisi ad hoc di dati non strutturati in Amazon S3. Il miglioramento alle prestazioni garantito da Spark ha consentito a GumGum di risparmiare tempo e denaro nei propri flussi di lavoro.

Scopri di più »

Hearst

Hearst Corporation

Hearst Corporation è una grande società che opera nel settore multimediale e dell'informazione con oltre 200 siti Web di proprietà. Grazie ad Apache Spark Streaming in Amazon EMR, la redazione di Hearst è in grado di monitorare in tempo reale la popolarità dei singoli articoli.

Scopri di più »

CrowdStrike

CrowdStrike

CrowdStrike fornisce protezione dagli attacchi informatici per endpoint. Utilizza Amazon EMR con Spark per elaborare centinaia di terabyte di dati di eventi e riassumerli in descrizioni comportamentali di alto livello sugli host. A partire dai dati, CrowdStrike è in grado di analizzare gli eventi che si verificano e identificare la presenza di attività pericolose.

Scopri di più »

Ulteriori informazioni sui prezzi di Amazon EMR

Visita la pagina dei prezzi
Tutto pronto per cominciare?
Inizia a usare Amazon EMR
Hai altre domande?
Contattaci