本指南帮助公用事业公司从仪表数据管理系统(MDMS)或直接从前端系统(HES)提取数据,并将这些数据与其他数据来源(包括天气和地理信息系统(GIS)数据)相结合。公用事业公司将能够检测仪表和配电线路异常、运行电路平衡、阻止能源盗窃、预测需求,以及通过主动分析、基于人工智能和机器学习(AI/ML)的预测来增强客户参与度。
请注意:本指南已更新。本架构图为增强版,可自动部署以下新功能:数据湖、数据摄取/机器学习管道、可视化组件、MDMS/HES 模拟器和增强型负载测试。示例代码也已使用新功能进行了更新。
架构图
[文本]
第 1 步
从多个 AWS 工具中选择以提取客户和仪表数据,例如用于自定义适配器的 AWS Lambda、用于批处理的 AWS SFTP 和 AWS Storage Gateway,以及用于流式传输数据的 Amazon Kinesis、Amazon Simple Notification Service(Amazon SNS)和 Amazon Simple Queue Service(Amazon SQS)。
第 2 步
使用 Amazon Timestream 存储时间序列数据,使用 AWS Glue 和 Amazon EMR 处理数据,使用 Amazon Simple Storage Service(Amazon S3)执行原始数据和存档存储。时间序列数据可以直接发送到 Amazon EMR 和 Amazon Athena 等分析服务进行进一步处理。
第 3 步
从 S3 存储桶获取原始数据并将其发送到 AWS Glue 和 Amazon EMR ,以自动执行提取、转换和加载(ETL)流程或进行增值处理。使用 Amazon S3 Glacier 实现存档副本和保留合规性。
第 4 步
经过整理的最终数据集存储在数据湖内的 S3 存储桶中。使用 AWS Glue Data Catalog 创建元数据目录,使所有数据可见且可搜索。使用 AWS 安全性、身份和合规性服务确保数据安全。
第 5 步
使用 Amazon EMR 执行复杂的分析。使用 Athena 对您的数据湖和仓库进行一次性数据发现和查询。
第 6 步
结合使用标准 SQL 和 Amazon Redshift,查询 PB 级的结构化、时间序列和半结构化数据。
第 7 步
使用 Amazon QuickSight 或 Amazon Managed Grafana 创建和发布包含 AI/ML 见解的交互式控制面板。
第 8 步
使用 Amazon SageMaker、Amazon Forecast 和 Amazon Personalize 检测电网异常、预测能源使用情况和预测设备故障。
Amazon Pinpoint 可让您客户沟通并衡量客户参与度。将分析和 ML 输出与 Amazon Pinpoint 相结合,创建个性化的客户目标细分和活动。
Well-Architected 支柱
当您在云中构建系统时,AWS Well-Architected Framework 可以帮助您了解所做决策的利弊。框架的六大支柱使您能够学习设计和操作可靠、安全、高效、经济高效且可持续的系统的架构最佳实践。使用 AWS 管理控制台中免费提供的 AWS Well-Architected Tool,您可以通过回答每个支柱的一组问题,根据这些最佳实践来检查您的工作负载。
上面的架构图是按照 Well-Architected 最佳实践创建的解决方案示例。要做到完全的良好架构,您应该遵循尽可能多的 Well-Architected 最佳实践。
-
卓越运营
AWS Glue 和 Athena 组织数据并监控数据访问情况。您可以在 QuickSight 和 Amazon Managed Grafana 中使用控制面板、报告和通知进一步分析数据。您可以从任何设备访问这些控制面板并将其嵌入到您的应用程序和网站中。AWS CloudFormation 管理基础设施和应用程序堆栈,允许您针对不同的使用案例执行更改和测试指南。
-
安全性
AWS Glue Data Catalog 已启用加密。AWS Glue 写入 Amazon S3 的所有元数据都经过加密。我们建议使用最低权限原则设计 AWS Identity and Access Management(IAM)角色,这意味着授予角色在特定条件下完成特定操作所需的最低访问量。这将仅向必要的用户和资源提供数据访问权限。
-
可靠性
AWS Glue、Amazon S3 和 Athena 均为无服务器式,将可随着数据量的增加扩展数据访问性能。AWS Glue 会预置、配置和扩展运行数据集成作业所需的资源。无需设置和管理任何服务器或数据仓库,Athena 即可查询您的数据。Amazon SNS 和 Amazon SQS 允许您在不中断运行的情况下增加数据提取。
-
性能效率
您可以将本指南与自己的仪表读数搭配使用,并根据您的要求采用。将数据转换为内部数据格式(详见相关实施指南)后,演示功能和控制面板将透明地运行。
-
成本优化
本指南尽可能使用无服务器服务,例如 Lambda、Athena 和 Kinesis,以帮助您避免前期成本,仅为使用的资源付费。我们以非无服务器的方式使用 Amazon EMR 来控制和优化节点,从而根据您的使用案例使其更具成本效益。
-
可持续性
S3 Glacier 使用磁性存储而非固态内存存档数据,有助于优化存储占用空间。Amazon SNS 和 Amazon SQS 将应用程序分离,以避免正在运行的资源等待加载。
实施资源
提供了在 AWS 账户中进行实验和使用的详细指南。构建指南的每个阶段(包括部署、使用和清理)都将被检查,以便为部署做好准备。
示例代码为起点。它经过行业验证,是规范性但不是决定性的,可以帮助您开始。
相关内容
免责声明
示例代码;软件库;命令行工具;概念验证;模板;或其他相关技术(包括由我方人员提供的任何前述项)作为 AWS 内容按照《AWS 客户协议》或您与 AWS 之间的相关书面协议(以适用者为准)向您提供。您不应将这些 AWS 内容用在您的生产账户中,或用于生产或其他关键数据。您负责根据特定质量控制规程和标准测试、保护和优化 AWS 内容,例如示例代码,以使其适合生产级应用。部署 AWS 内容可能会因创建或使用 AWS 可收费资源(例如,运行 Amazon EC2 实例或使用 Amazon S3 存储)而产生 AWS 费用。
本指南中提及第三方服务或组织并不意味着 Amazon 或 AWS 与第三方之间存在认可、赞助或从属关系。AWS 的指导是一个技术起点,您可以在部署架构时自定义与第三方服务的集成。