亚马逊AWS官方博客

EMR 上的 Spark 作业优化实践

在当今数据驱动业务的时代,大数据已经成为企业业务驱动的利器之一,Amazon EMR 是一个托管集群平台,可简化在 AWS 上运行大数据框架的过程,使组织能够在几分钟内启动具有多个实例的集群,让您能够轻松经济的通过并行处理来处理各种数据工程和商业智能工作负载。在Amazon EMR中,我们经常会用到Apache Hadoop,Apache Spark等大数据框架运行我们的海量数据处理作业,而基于内存计算的Apache Spark框架,毫无疑问在批处理或是流处理领域都是EMR中最热门的点选组件之一。面向企业数据工程师,我们可能需要一两天学习并编写完我们的第一个Spark作业,而针对Spark的作业进行调整和优化则拥有不断完善的空间。

Read More

新增功能 – Amazon FSx for Windows File Server 的低成本 HDD 存储选项

今天,Amazon FSx for Windows File Server 推出了新的 HDD(硬盘驱动器)存储选项。现有 SSD(固态硬盘驱动器)存储选项专为数据库、媒体处理和分析等对性能延迟最为敏感的工作负载而设计,HDD 存储则适合非常广泛的工作负载,包括家庭目录、部门共享和内容管理系统等。

Read More

BuildforCOVID19 全球在线骇客马拉松

AWS 诚邀全世界的构建者参加 #BuildforCOVID19,使用您专长的技术来解决一系列建议的主题和挑战领域,其中部分主题和领域由世界卫生组织等卫生合作伙伴提供。本骇客马拉松欢迎各种关注本地和全球的解决方案,对所有开发者开放。

Read More

在生产中结合使用 Amazon Redshift Spectrum、Amazon Athena 和 AWS Glue 与 Node.js

在此博文中,我们解释了将带 Redshift Spectrum 的 Amazon Redshift 扩展为现代数据仓库的原因。我将介绍我们的数据增长及平衡成本和性能的需求如何促使我们采用 Redshift Spectrum。我还将分享我们的环境中的关键性能指标,并讨论提供可扩展和快速环境的额外 AWS 服务,并提供数据供我们日益增长的用户群进行立即查询。

Read More

使用 API Gateway 监管客户端与 Apache Kafka 之间的交互

在本文中,我们将演示 Amazon API Gateway 如何作为 Amazon MSK 集群和客户端之间的一个组件来解决这些问题。
Amazon MSK 是一款适用于 Apache Kafka 的完全托管的服务,借助它只需几次点击即可轻松预置 Kafka 集群,不再需要手动预置服务器、管理存储或者配置 Apache Zookeeper。Apache Kafka 是 一个开源平台,可用于构建实时的流式处理数据管道和应用程序。

Read More