Información general

La solución de datos de streaming para Amazon MSK proporciona plantillas de AWS CloudFormation en las que los datos fluyen entre los productores, el almacenamiento en streaming, los consumidores y los destinos. Para admitir varios casos de uso y necesidades empresariales, esta solución ofrece cuatro plantillas de AWS CloudFormation. De manera similar a la solución de datos de streaming para Amazon Kinesis, las plantillas se configuran con el fin de aplicar las prácticas recomendadas y supervisar la funcionalidad mediante paneles y alarmas, así como para proteger los datos.
Los datos de streaming se pueden capturar de forma duradera mediante el almacenamiento escalable masivo, que es capaz de administrar un volumen de datos alto procedente de los productores de datos. Un productor pueden ser miles de orígenes de datos, cada uno generando datos de streaming de manera continua y que, normalmente, envían registros de manera simultánea y en tamaños reducidos (kilobytes).
Los datos de streaming incluyen diversos tipos de datos, como archivos de registros generados por los clientes que utilizan aplicaciones móviles o web, compras electrónicas, actividades de los jugadores en un juego, información de redes sociales, operaciones bursátiles o servicios geoespaciales, así como telemetría de dispositivos conectados o instrumentación en centros de datos.
Beneficios

Detalles técnicos

-
Opción 1
-
Opción 2
-
Opción 3
-
Opción 4
-
Opción 1
-
Opción 1: plantilla de AWS CloudFormation mediante Amazon MSK
Paso 1
Esta plantilla de AWS CloudFormation implementa un clúster de Amazon MSK.
Paso 2
Se usa un grupo de usuarios de Amazon Cognito para controlar quién puede invocar los métodos de la API de REST.Contenido relacionado
Blog de arquitectura de AWSCopia de seguridad de Amazon MSK para archivar, reproducir o analizarEste artículo explica los patrones y las soluciones que se pueden utilizar para realizar copias de seguridad de temas de MSK en S3, lo que permite a los clientes reducir la configuración de retención de datos a largo plazo en MSK. Algunos clientes almacenan datos a largo plazo en MSK para cargas de trabajo de análisis de datos y Machine Learning. Compartimos un patrón para simplificar esta arquitectura mediante la descarga de datos de temas en S3 y el uso de S3 para análisis y ML.
FormaciónAspectos fundamentales sobre el análisis de datosEn este curso autoguiado, aprenderá sobre el proceso que se sigue para planificar soluciones de análisis de datos y sobre los distintos procesos de análisis de datos que intervienen.
FormaciónLaboratorios de Amazon MSKEste sitio contiene información y laboratorios prácticos relacionados con Amazon MSK. Estos laboratorios pueden funcionar con cuentas personales o corporativas de AWS o cuentas provistas por equipos de cuentas de AWS para eventos que usan Event Engine.
Acerca de esta implementaciónVersión1.7.2Lanzamiento01/2023AutorAWSTiempo de implementación estimado25-30 minutosCosto estimadoOpciones de despliegue¿Listo para comenzar?Inicie esta solución en la consola de AWS para implementarla -
Opción 2
-
Opción 2: plantilla de AWS CloudFormation mediante Amazon MSK y AWS Lambda
Paso 1
Esta plantilla de AWS CloudFormation implementa una función de Lambda que procesa registros en un tema de Apache Kafka. La función predeterminada es una aplicación Node.js que registra los mensajes recibidos, pero se puede personalizar para satisfacer sus necesidades comerciales.Contenido relacionado
Blog de arquitectura de AWSCopia de seguridad de Amazon MSK para archivar, reproducir o analizarEste artículo explica los patrones y las soluciones que se pueden utilizar para realizar copias de seguridad de temas de MSK en S3, lo que permite a los clientes reducir la configuración de retención de datos a largo plazo en MSK. Algunos clientes almacenan datos a largo plazo en MSK para cargas de trabajo de análisis de datos y Machine Learning. Compartimos un patrón para simplificar esta arquitectura mediante la descarga de datos de temas en S3 y el uso de S3 para análisis y ML.
FormaciónAspectos fundamentales sobre el análisis de datosEn este curso autoguiado, aprenderá sobre el proceso que se sigue para planificar soluciones de análisis de datos y sobre los distintos procesos de análisis de datos que intervienen.
FormaciónLaboratorios de Amazon MSKEste sitio contiene información y laboratorios prácticos relacionados con Amazon MSK. Estos laboratorios pueden funcionar con cuentas personales o corporativas de AWS o cuentas provistas por equipos de cuentas de AWS para eventos que usan Event Engine.
Acerca de esta implementaciónVersión1.7.2Lanzamiento01/2023AutorAWSTiempo de implementación estimado25-30 minutosCosto estimadoOpciones de despliegue¿Listo para comenzar?Inicie esta solución en la consola de AWS para implementarla -
Opción 3
-
Opción 3: plantilla de AWS CloudFormation mediante Amazon MSK, AWS Lambda y Amazon Kinesis Data Firehose
Paso 1
Una función de AWS Lambda que procesa los registros en un tema de Apache Kafka.Paso 2
Un flujo de entrega de Amazon Kinesis Data Firehose que almacena los datos en un búfer antes de entregarlos en el destino.Paso 3
Un bucket de Amazon Simple Storage Service (Amazon S3) que almacena todos los eventos originales del clúster de Amazon MSK.Contenido relacionado
Blog de arquitectura de AWSCopia de seguridad de Amazon MSK para archivar, reproducir o analizarEste artículo explica los patrones y las soluciones que se pueden utilizar para realizar copias de seguridad de temas de MSK en S3, lo que permite a los clientes reducir la configuración de retención de datos a largo plazo en MSK. Algunos clientes almacenan datos a largo plazo en MSK para cargas de trabajo de análisis de datos y Machine Learning. Compartimos un patrón para simplificar esta arquitectura mediante la descarga de datos de temas en S3 y el uso de S3 para análisis y ML.
FormaciónAspectos fundamentales sobre el análisis de datosEn este curso autoguiado, aprenderá sobre el proceso que se sigue para planificar soluciones de análisis de datos y sobre los distintos procesos de análisis de datos que intervienen.
FormaciónLaboratorios de Amazon MSKEste sitio contiene información y laboratorios prácticos relacionados con Amazon MSK. Estos laboratorios pueden funcionar con cuentas personales o corporativas de AWS o cuentas provistas por equipos de cuentas de AWS para eventos que usan Event Engine.
Acerca de esta implementaciónVersión1.7.2Lanzamiento01/2023AutorAWSTiempo de implementación estimado25-30 minutosCosto estimadoOpciones de despliegue¿Listo para comenzar?Inicie esta solución en la consola de AWS para implementarla -
Opción 4
-
Opción 4: plantilla de AWS CloudFormation mediante Amazon MSK, Amazon Kinesis Data Analytics y Amazon S3
Paso 1
Un bloc de notas de Kinesis Data Analytics Studio que lee eventos de un tema existente en un clúster de Amazon MSK.Paso 2
Un bucket de Amazon Simple Storage Service (Amazon S3) que almacena la salida.Contenido relacionado
Blog de arquitectura de AWSCopia de seguridad de Amazon MSK para archivar, reproducir o analizarEste artículo explica los patrones y las soluciones que se pueden utilizar para realizar copias de seguridad de temas de MSK en S3, lo que permite a los clientes reducir la configuración de retención de datos a largo plazo en MSK. Algunos clientes almacenan datos a largo plazo en MSK para cargas de trabajo de análisis de datos y Machine Learning. Compartimos un patrón para simplificar esta arquitectura mediante la descarga de datos de temas en S3 y el uso de S3 para análisis y ML.
FormaciónAspectos fundamentales sobre el análisis de datosEn este curso autoguiado, aprenderá sobre el proceso que se sigue para planificar soluciones de análisis de datos y sobre los distintos procesos de análisis de datos que intervienen.
FormaciónLaboratorios de Amazon MSKEste sitio contiene información y laboratorios prácticos relacionados con Amazon MSK. Estos laboratorios pueden funcionar con cuentas personales o corporativas de AWS o cuentas provistas por equipos de cuentas de AWS para eventos que usan Event Engine.
Acerca de esta implementaciónVersión1.7.2Lanzamiento01/2023AutorAWSTiempo de implementación estimado25-30 minutosCosto estimadoOpciones de despliegue¿Listo para comenzar?Inicie esta solución en la consola de AWS para implementarla