Sessões do re:Invent 2017 em destaque
Analyzing streaming data in real time with Amazon Kinesis (ABD301)
O Amazon Kinesis facilita a coleta, o processamento e a análise de dados de streaming em tempo real, permitindo que você obtenha insights oportunos e reaja rapidamente às novas informações. Nesta sessão, apresentamos uma solução completa de dados de streaming usando o Kinesis Streams para ingestão de dados, o Kinesis Analytics para processamento em tempo real e o Amazon Data Firehose para persistência. Analisamos detalhadamente como escrever consultas SQL usando dados de streaming e discutimos as melhores práticas para otimizar e monitorar aplicativos do Kinesis Analytics. Por fim, discutimos como estimar o custo de todo o sistema.
Workshop: Building your first big data application on AWS (ABD317)
Você quer aumentar o seu conhecimento de web services de big data da AWS e lançar o seu primeiro aplicativo de big data na nuvem? Mostramos a você como simplificar o processamento de big data como um barramento de dados que abrange consumo, armazenamento, processamento e visualização. Você cria um aplicativo de big data usando serviços gerenciados da AWS como Amazon Athena, Amazon Kinesis, Amazon DynamoDB e Amazon S3, entre outros. Durante o workshop, analisaremos padrões de projeto de arquitetura para aplicativos de big data e ofereceremos acesso a um laboratório que você poderá executar fora do workshop para recriar e personalizar o aplicativo. Você deve trazer o seu próprio laptop e ter alguma familiaridade com os serviços da AWS para aproveitar essa sessão ao máximo.
Workshop: Don’t wait until tomorrow; How to use streaming data to gain real-time insights into your business (ABD321)
Nos últimos anos, o número de fontes de dados em tempo real e dispositivos conectados cresceu de forma explosiva. O resultado é uma produção contínua de dados, e a taxa de produção está acelerando. As empresas não podem mais esperar horas ou dias para usar esses dados. Para obter os insights mais valiosos, elas devem usar imediatamente esses dados para pode reagir rapidamente com base nas novas informações. Neste workshop, você aprenderá aproveitar as fontes de streaming de dados para analisar e reagir praticamente em tempo real. Você receberá diversos requisitos de um cenário de dados de streaming do mundo real e terá de criar uma solução que atenda a esses requisitos usando serviços como Amazon Kinesis, AWS Lambda e Amazon SNS.
How Amazon Flex uses real-time analytics to deliver packages on time (ABD217)
A redução do tempo de obtenção de insights acionáveis dos dados é importante para todas as empresas. Os clientes que usam ferramentas de análise de dados em lotes estão explorando os benefícios das análises de streaming. Aprenda as melhores práticas para ampliar uma arquitetura de data warehouses e bancos de dados para soluções em tempo real. Saiba como usar o Amazon Kinesis para obter insights de dados em tempo real e integrá-los aos serviços Amazon Aurora, Amazon RDS, Amazon Redshift e Amazon S3. A equipe do Amazon Flex descreve como usou as análises de streaming em um aplicativo móvel do Amazon Flex usado por motoristas de entrega da Amazon para entregar todos os meses milhões de pacotes dentro do prazo esperado. A equipe discute a arquitetura que possibilitou a mudança de um sistema de processamento de lotes para um sistema em tempo real, superando os desafios da migração de dados em lotes atuais para dados de streaming. Além disso, mostra como obter benefícios com as análises em tempo real.
Assista à gravação da sessão | Faça download da apresentação
Real-time streaming applications on AWS: Use cases and patterns (ABD203)
Para conquistar o mercado e oferecer experiências de cliente diferenciadas, as empresas precisam usar dados ao vivo em tempo real para facilitar a agilidade na tomada de decisões. Nesta sessão, você aprenderá casos de uso e arquiteturas comuns para processamento de dados de streaming. Primeiro, oferecemos uma visão geral dos dados de streaming e dos recursos de dados de streaming da AWS. Em seguida, examinamos alguns exemplos de clientes e seus aplicativos de streaming em tempo real. Por fim, descrevemos as arquiteturas e os padrões de projeto comuns dos principais casos de uso de dados de streaming.
Assista à gravação da sessão | Faça download da apresentação
Cox Automotive Empowered to Scale with Splunk Cloud & AWS (ABD208)
Nesta sessão, saiba como a Cox Automotive usa o Splunk Cloud para obter visibilidade em tempo real de ambientes AWS e híbridos para alcançar um tempo médio de identificação (MTTI) praticamente instantâneo, reduzir os incidentes de leilão em 90% e prever proativamente as indisponibilidades. Também apresentamos um recurso aguardado ansiosamente que permite consumir, transformar e analisar dados em tempo real usando o Splunk e o Amazon Data Firehose para obter insights valiosos de recursos em nuvem. Agora, é muito mais fácil e rápido obter acesso ao monitoramento de infraestrutura orientada a análises usando o Splunk Enterprise e o Splunk Cloud.
Webinars gravados
Real-Time Log Analytics using Amazon Data Firehose (junho de 2017)
A análise de logs é um caso de uso de big data comum que permite analisar dados de logs de sites, dispositivos móveis, servidores e sensores, entre outros, para uma grande variedade de aplicações como marketing digital, monitoramento de aplicativos, detecção de fraudes, tecnologia de anúncios, jogos e IoT. A mudança das análises de log para tempo real pode acelerar o acesso às informações, o que permite obter insights em segundos ou minutos, em vez de horas ou dias. Nesta sessão, você aprenderá a consumir e entregar logs sem infraestrutura usando o Amazon Data Firehose. Mostraremos como o Amazon Managed Service for Apache Flink pode ser usado para processar dados de log em tempo real para criar análises responsivas. Finalmente, mostraremos como usar o Amazon Elasticsearch Service para consultar e visualizar interativamente os dados de log.
Objetivos do aprendizado:
- Saiba como criar facilmente uma solução completa de análises de log em tempo real.
- Obtenha uma visão geral da coleta e do processamento de dados em tempo real usando o Amazon Kinesis.
- Saiba como consultar e visualizar interativamente dados de log usando o Amazon Elasticsearch Service.
Streaming ETL for Data Lakes using Amazon Data Firehose (maio 2017)
Data lakes permitem que os funcionários em toda a organização acessem e analisem quantidades massivas de dados estruturados e não estruturados com fontes de dados heterogêneas, muitas das quais geram dados de forma contínua e rápida. A disponibilização oportuna desses dados para análise exige uma solução de streaming que pode consumir de forma resiliente e econômica esses dados para um data lake. O Amazon Data Firehose é um serviço completamente gerenciado que facilita a preparação e a carga de dados de streaming na AWS. Neste Tech Talk, ofereceremos uma visão geral do Firehose e detalharemos como você pode usar o serviço para coletar, transformar, organizar em lotes, comprimir e carregar dados de streaming em tempo real em data lakes do Amazon S3.
Objetivos do aprendizado:
- Entender os principais requisitos para coletar, preparar e carregar dados de streaming em data lakes.
- Obter uma visão geral da transmissão de dados usando o Firehose.
- Saber como executar transformações de dados com o Firehose.
How TrueCar Gains Actionable Insights with Splunk Cloud
A mudança de um datacenter inteiro para a nuvem não é uma tarefa fácil! A equipe de plataformas de tecnologia da TrueCar recebeu exatamente essa missão e começou a procurar uma solução mais escalável de monitoramento e resolução de problemas que pudesse aumentar a performance da infraestrutura e dos aplicativos, aprimorar sua postura de segurança e promover melhorias nos produtos. A empresa escolheu o Splunk Cloud executado na AWS e implantou a solução em um dia. Neste webinar, você saberá como a TrueCar usa os recursos da AWS e do Splunk para obter insights de seus dados em tempo real.
Assista ao webinar para saber como a experiência da TrueCar executando o Splunk Cloud na AWS com o Amazon Data Firehose pode ajudar você a:
- Obter insights históricos com retenção adicional de dados
- Oferecer melhor visibilidade do faturamento da AWS
- Obter insights de segurança e detecção de ameaças
Publicações de blog
Amazon Data Firehose now supports dynamic partitioning to Amazon S3 (O Amazon Data Firehose agora é compatível com o particionamento dinâmico com o Amazon S3)
por Jeremy Ber and Michael Greenshtein, 02/09/2021
CloudWatch Metric Streams – Send AWS Metrics to Partners and to Your Apps in Real Time (Fluxos de métricas do CloudWatch – Envie métricas da AWS para parceiros e suas aplicações em tempo real)
por Jeff Barr, 31/03/2021
Stream, transform, and analyze XML data in real time with Amazon Kinesis, AWS Lambda, and Amazon Redshift (Transmita, transforme e analise dados XML em tempo real com Amazon Kinesis, AWS Lambda e Amazon Redshift)
por Sakti Mishra, 18/08/2020
Amazon Data Firehose Data Transformation with AWS Lambda (Transformação de dados do Amazon Data Firehose com AWS Lambda)
por Bryan Liston, 13/02/2027
Watch Stream CDC into an Amazon S3 data lake in Parquet format with AWS DMS (Assista à transmissão CDC em um data lake do Amazon S3 no formato Parquet com o AWS DMS)
por Viral Shah, 08/09/2020
Amazon Data Firehose custom prefixes for Amazon S3 objects (Prefixos personalizados do Amazon Data Firehose para objetos do Amazon S3)
por Rajeev Chakrabarti, 22/04/2019
Stream data to an HTTP endpoint with Amazon Data Firehose (Faça transmissão de dados para um endpoint HTTP com o Amazon Data Firehose)
por Imtiaz Sayed e Masudur Rahaman Sayem, 29/06/2020
Capturing Data Changes in Amazon Aurora Using AWS Lambda (Capturar alterações de dados no Amazon Aurora usando o AWS Lambda)
por Re Alvarez-Parmar, 05/09/2017
How to Stream Data from Amazon DynamoDB to Amazon Aurora using AWS Lambda and Amazon Data Firehose (Como fazer transmissão de dados do Amazon DynamoDB para o Amazon Aurora usando AWS Lambda e Amazon Data Firehose)
por Aravind Kodandaramaiah, 04/05/2017
Analyzing VPC Flow Logs using Amazon Athena, and Amazon QuickSight (Analisar logs de fluxo de VPC usando o Amazon Athena e o Amazon QuickSight)
por Ian Robinson, Chaitanya Shah, e Ben Snively, 09/03/2017
Comece a usar o Amazon Data Firehose