Amazon Kinesis Data Firehose

准备实时数据流并将其加载到数据存储和分析工具中

Amazon Kinesis Data Firehose 是将流数据可靠地加载到数据存储和分析工具的最简单方式。它可以捕获、转换流数据并将其加载到 Amazon S3、Amazon Redshift、Amazon Elasticsearch Service 和 Splunk,让您可以借助正在使用的现有商业智能工具和控制面板进行近乎实时的分析。这是一项完全托管的服务,可以自动扩展以匹配数据吞吐量,并且无需持续管理。它还可以在加载数据前对其进行批处理、压缩和加密,从而最大程度地减少目的地使用的存储量,同时提高安全性。

您可以从 AWS 管理控制台轻松创建 Firehose 交付流,通过单击几下对其进行配置,并开始将数据从成千上万个数据源发送到流中,以便不断将数据加载到 AWS 中 – 所有这些操作只需几分钟即可完成。 您还可以配置交付流,以便在将数据交付到 Amazon S3 之前自动将传入数据转换为诸如 Apache Parquet 和 Apache ORC 之类的列式格式,从而实现经济高效的存储和分析。

使用 Kinesis Data Firehose,您只需为通过该服务传输的数据量和转换格式的数据量(如果适用)付费。没有最低费用和准备成本。

视频:什么是 Amazon Kinesis Data Firehose?

优势

易于使用

Amazon Kinesis Data Firehose 提供了一种简单的方式来捕获、转换和加载流数据,只需在 AWS 管理控制台中单击几下即可。您只需创建一个 Firehose 传输流,选择目的地,然后就可以开始同时发送来自成千上万个数据源的实时数据。该服务会处理按照您指定的间隔将数据持续加载到目的地所需的数据流管理工作,包括所有扩展、分片和监控操作。

与 AWS 数据存储集成

Amazon Kinesis Data Firehose 与 Amazon S3、Amazon Redshift 和 Amazon Elasticsearch Service 集成。从 AWS 管理控制台,您可以将 Kinesis Data Firehose 指向 Amazon S3 存储桶、Amazon Redshift 表或 Amazon Elasticsearch 域。然后,您可以使用现有分析应用程序和工具来分析流数据。

无服务器数据转换

您可以通过 Amazon Kinesis Data Firehose 来准备流数据,然后再将其加载到数据存储中。使用 Kinesis Data Firehose,您可以轻松地将来自数据源的原始流数据转换为目标数据存储所需的格式,无需构建自己的数据处理管道。了解更多 »

近乎实时

Amazon Kinesis Data Firehose 能以近乎实时的方式捕获和加载数据。它可以在数据发送至服务 60 秒内,将新数据加载到 Amazon S3、Amazon Redshift、Amazon Elasticsearch Service 和 Splunk 中。因此,您可以更快访问新数据,更加迅速地对业务和运营事件作出反应。

无需持续管理

Amazon Kinesis Data Firehose 是一项完全托管的服务,它会自动配置、管理和扩展加载流数据所需的计算、内存和网络资源。一经设置,Kinesis Data Firehose 便会随着数据的到达不断加载。

仅按实际用量付费

使用 Amazon Kinesis Data Firehose,您只需为通过该服务传输的数据量和转换格式的数据量(如果适用)付费。没有最低费用,也没有预先承诺。

工作原理

product-page-diagram_Amazon-Kinesis-Data-Firehose

使用案例

物联网分析

借助 Amazon Kinesis Data Firehose,您可以不断从消费类家电、嵌入式传感器和电视机顶盒等互连设备中捕获数据。Kinesis Data Firehose 可将数据加载到 Amazon S3 和 Amazon Redshift,让您的客户能够近乎实时地访问指标、见解和控制面板。


点击流分析

您可以使用 Amazon Kinesis Data Firehose 传输有关数字内容的实时指标,使作者和营销人员能够以最有效的方式与其客户联系。您可以对数十亿条已压缩、加密并传输至 Amazon Elasticsearch Service 和 Amazon Redshift 的简短消息进行流式处理。您可以聚合、筛选和处理数据,并近乎实时地刷新内容性能控制面板。例如,Hearst Corporation 利用 Kinesis Data Firehose 构建了一个点击流分析平台,每天可以传输和处理来自全球 300 多个网站的 30TB 数据。借助该平台,Hearst 能够在数分钟内将来自网站点击的整个数据流转化为聚合指标,并将其提供给编辑。阅读案例研究 »


日志分析

借助在云中和本地运行的应用程序和服务器的日志数据,您可以监控应用程序并快速排查问题。例如,您可以在发生应用程序错误时检测到它们,并通过收集、监控和分析日志数据来确定根本原因。您可以轻松地在服务器上安装和配置 Amazon Kinesis Agent,以自动监控应用程序和服务器日志文件,并将数据发送到 Kinesis Data Firehose。Kinesis Data Firehose 持续将日志数据流式传输到 Amazon Elasticsearch Service,以便您可以使用 Kibana 可视化和分析数据。 


安全监控

Kinesis Data Firehose 支持使用 Splunk 作为目标。这意味着您可以捕获网络流量流日志并将其发送到 Kinesis Data Firehose,然后,Kinesis Data Firehose 会转换、补充数据并将其加载到 Splunk。借助该解决方案,您可以实时监控网络安全,并在出现潜在威胁时发出警报。

博客文章

将数据流式传输到 Aurora PostgreSQL 数据库

Ganesh Raja
2018 年 1 月 11 日

结合使用实时分析和批量分析

Laith Al-Saadoon
2017 年 9 月 8 日

将数据从 Amazon DynamoDB 流式传输到 Amazon Aurora

Aravind Kodandaramaiah
2017 年 5 月 4 日

轻松将数据注入 Splunk

Tarik Makota 和 Roy Arsan
2017 年 12 月 18 日

进行无服务器扩展以提取、聚合和可视化 Apache 日志

Pubali Sen 和 Shankar Ramachandran
2017 年 5 月 31 日

可视化并完善网络安全

Guy Denney
2017 年 5 月 3 日

开始使用 Amazon Kinesis Data Firehose

icon1

注册 AWS 账户

立即获取 AWS 免费套餐
icon2

查看开发人员指南

查看 开发人员指南,了解 Kinesis Data Firehose。
icon3

开始流式处理数据

借助本 教程获得动手体验。

详细了解 Amazon Kinesis Data Firehose 的功能

访问功能页面
准备好开始使用了吗?
注册
还有更多问题?
联系我们