Amazon MSK Express 代理现在可将 Apache Kafka 数据传输至 Amazon S3
Amazon MSK Express 代理现在可将数据传输至 Amazon S3 通用型存储桶,并提供一项完全托管的功能,用于以最简单、最可靠的方式传输 Amazon S3 中的 Apache Kafka 数据,从而进行下游处理。此功能可自动扩展,以将高吞吐量 Kafka 数据传输至 S3,并为任务关键型工作负载提供端到端可靠性,同时与自行管理的替代方案相比,可将摄取和传输成本降低多达 60%。
客户可将 Apache Kafka 数据传输至 Amazon S3,用于日志存档、合规性保留、Kafka 回放和训练 AI/ML 模型等使用案例。通常,客户使用自行管理的连接器来构建这些管道。但是,随着工作负载扩展,这些连接器的成本和运维复杂性不断攀升,导致团队不得不构建或采购 S3 连接器插件、获得部署批准、持续扩展容量,以及在整个连接器实例集中应用安全更新。借助此功能,MSK Express 可自动处理扩展、重试和背压,使客户无需再管理连接器实例集或跨团队进行协调。MSK Express 支持高达 10GB/s 的吞吐量,可将数据传输至 Amazon S3,并能在不造成传输中断的情况下,管理容量扩展和版本升级等日常操作。此外,客户无需预置额外的代理出口吞吐量即可添加这项传输功能,从而消除了扩展基于连接器的管道通常会带来的增量基础设施成本。因此,客户可以根据实际工作负载需求扩展传输吞吐量,而不是针对峰值进行预置,从而实现向 Amazon S3 进行可靠的高吞吐量传输,同时避免运营开销并降低成本。
目前,在提供 Amazon MSK Express 代理的所有 AWS 区域,都支持 Amazon MSK 将数据传输至 Amazon S3。有关定价信息,请访问定价页面。要了解更多信息,请参阅 Amazon MSK 开发人员指南和 Amazon MSK AI 技能。