亚马逊AWS官方博客
Tag: Amazon Athena
在 Amazon Athena 中使用 EXPLAIN 和 EXPLAIN ANALYZE 优化联合查询性能
Amazon Athena 是一种交互式查询服务,可使用标准 SQL 轻松分析 Amazon Simple Storage Service(Amazon S3)中的数据。Athena 是一种无服务器服务,因此您无需管理任何基础设施,而且只需为所运行的查询付费。2019 年,Athena 增加了对联合查询的支持,以便跨存储在关系、非关系、对象和自定义数据来源中的数据运行 SQL 查询。
利用 Amazon Glue、Amazon Kinesis Data Streams、Amazon DynamoDB 和 Amazon QuickSight 的零售无服务器运营数据湖
您想减少商店缺货情况吗? 您想改善订单配送时间表吗? 您想为客户提供精确到毫秒的产品供应吗? 零售运营数据湖可 […]
使用 Amazon MSK、Apache Flink 和 Apache Hudi 实现流批一体的数据湖架构
这篇文章中,我们使用 Lambda 架构,介绍如何分析业务,以及如何以数据湖为本来形成流批一体的架构。
如何在跨账户环境下安全地执行操作系统脚本
大型企业上云过程中,通常会设置多个账号开展业务,企业IT运维人员需要自主负责云端实例内操作系统的运维操作。本文提出了基于亚马逊云科技的云原生服务构建跨账户安全执行操作系统脚本的方案设计。
基于Amazon Serverless和SageMaker实现空气质量预测
本文介绍了通过Amazon Serverlss实现低成本数据采集,并通过Amazon SageMaker进行数据处理与机器学习,对时间序列数据如空气质量进行分析与预测。
亚马逊云科技 WAF 部署小指南(四)使用 Log Hub 自动部署方案进行 WAF 安全运营
本文介绍了如何使用Log Hub快速部署方案创建一个WAF的日志分析系统。这个系统,对于有安全运营需求的企业是非常必要的。通过快速部署这个系统,我们可以在一个比较成熟的企业云设施里快速启用一个日志分析系统。 有了这个日志分析系统,我们基本可以通过无代码的方式完成安全运营的工作了。本文的主要部署部分都是以CloudFormation部署完成,特别适合已经有VPC架构的成熟企业。
亚马逊云科技 WAF 部署小指南(三)使用 OpenSearch 进行 WAF 安全调查
本文介绍了如何使用亚马逊云科技的OpenSearch创建一个WAF的日志分析系统。有了这个日志分析系统,我们基本可以以无代码的方式完成安全运营的工作了。
基于 VPC Flow Logs 的 NAT Gateway 网络流量分析与可视化方案
本解决方案提供了一种对流经NAT Gateway的流量进行分析与可视化的方案。通过亚马逊云科技提供的网络流量分析工具VPC Flow Logs,以及Serverless的数据分析工具Amazon Athena、Amazon Glue与Amazon QuickSight,建立了一套方便网络运维人员日常观测网络流量,或查询与诊断经NAT的网络问题的解决方案。
通过 Amazon CloudFront 实时日志快速构建自定义的 CDN 监控
本文介绍了一个快速构建自定义CloudFront监控的解决方案,方便用户通过分析日志获取自定义的指标
在Amazon Athena 上使用 Partition Projection 与 Glue Partition Indexes 效能比较
Amazon Athena 分区投影相关的功能,透过分区投影中的值做匹配计算,得出位置,减少分区元数据检索方面受到限制的查询的运行时间。随着时间的推移,Glue 也推出了分区索引相关的功能,可以方便客户与其他服务,如EMR、Glue ETL、Redshift Specturm… 等等,做元数据的储存与查询。许多人会有一个疑问是,Athena分区投影 与 Glue分区索引效能再一定的分区数量时的比较,也是这篇部落格会探讨的议题。