亚马逊AWS官方博客
Category: Compute
使用 Amazon EC2 Inf2 实例运行大语言模型 GPT-J-6B
在 2019 年的 AWS re:Invent 上,亚马逊云科技发布了 Inferentia 芯片和 Inf1 实例,Inferentia 是一种高性能机器学习推理芯片,由 AWS 定制设计:其目的是提供具有成本效益的大规模低延迟预测。时隔四年,2023 年 4 月亚马逊云科技发布了 Inferentia2 芯片和 Inf2 实例,旨在为大型模型推理提供技术保障。本文将介绍如果使用 Inf2 实例运行 GPT-J-6B 模型。
Amazon Compute Optimizer 支持 Amazon Graviton 迁移指南
Amazon Compute Optimizer 如今推出了一项新功能,让您可以利用多个 CPU 架构(包括基于 x86 的实例和基于 Amazon Graviton 的实例)更轻松地优化 EC2 实例。Compute Optimizer 是一项可选服务,可为工作负载推荐最佳 Amazon 资源,通过分析历史利用率指标来降低成本并提高性能。
Amazon Compute Optimizer 在 Amazon Fargate 上推出对 Amazon ECS 服务的支持
让我们从如何启用 Compute Optimizer 开始,了解它对在 Fargate 上运行的 Amazon ECS 服务的建议,并进行应用。
基于 EMR on EKS 的 Spark 集群通过 Karpenter、Spot、Graviton 实现成本优化系列 Blog(三):成本优化方案可靠性测试
在整个系列博客中我们会以基于 EMR on EKS 的 Spark 大数据分析业务场景为示例,利用 Karpenter + Spot + Graviton,通过控制实例启动的优先级达到成本优化的目的。
基于 EMR on EKS 的 Spark 集群通过 Karpenter、Spot、Graviton 实现成本优化系列 Blog(二):成本优化方案有效性测试
在整个系列博客中我们会以基于 EMR on EKS 的 Spark 大数据分析业务场景为示例,利用 Karpenter + Spot + Graviton,通过控制实例启动的优先级达到成本优化的目的。
基于 EMR on EKS 的 Spark 集群通过 Karpenter、Spot、Graviton 实现成本优化系列 Blog(一):方案架构、设计原理和基础配置
在整个系列博客中我们会以基于 EMR on EKS 的 Spark 大数据分析业务场景为示例,利用 Karpenter + Spot + Graviton,通过控制实例启动的优先级达到成本优化的目的。
使用 AWS EventBridge+Lambda+Aurora 实现实例资源自动预留
针对客户的短期资源需求,可以考虑使用亚马逊云科技 EventBridge+Lambda+Aurora 的方式来自动化地对特定实例资源进行预留。同时采用 Serverless 服务也可以最大程度上减少维护成本,实现成本节约。
巧用 G5g 畅游Android流媒体游戏
在这篇博客中,我们将在 G5g 实例上通过 Anbox Cloud Appliance 设置 Android 环境,通过 Anbox Cloud API 构建 Android 流媒体游戏应用程序,最后在我们的手机上通过 Firefox 浏览器玩游戏!
利用Data Transfer Hub在专线或VPN内网环境搬迁对象存储数据
Data Transfer Hub(DTH)是亚马逊云科技解决方案团队开发的用于搬迁对象存储数据和容器镜像的一个解决方案。DTH解决方案 包含两个Plugin,分别是S3 Plugin和ECR Plugin。
利用Neptune图数据库构建工厂知识图谱实践
本文实现了工厂OEE系统上传数据,在AWS Sagemaker里面转化数据,以及在Neptune存放数据的过程,最后在API Gateway 以及Lambda中实现对数据的调用。针对每次OEEEvent发生的 Errorcode进行分析,同时关联工厂产线相关知识比如机器模块,子模块,故障描述,故障原因等一系列机器对应的数据。随着知识数据的不断积累,数据科学家还可以持续使用SageMaker更新知识之间的关联关系,相关的工业场景可以根据实际场景利用本文的方案进行架构设计。