亚马逊AWS官方博客

Category: Artificial Intelligence

在持续集成流水线中应用 Gen AI 识别并修复漏洞

本文展示了开发团队如何利用 AWS 云服务(如 Amazon Bedrock、Amazon Inspector、AWS Lambda 和 Amazon EventBridge)构建一个无服务器的事件驱动解决方案,在持续集成流水线中自动检测和修复容器的通用漏洞披露(CVE)。借助强大的生成式人工智能和无服务器技术,这一曾经复杂的挑战变得不再困难。

在 Amazon SageMaker HyperPod 上使用 LLaMA-Factory 轻松微调大模型

LLaMA-Factory 是开源社区一套大模型集成训练框架,AWS SageMaker 是亚马逊云服务中的一个全面的机器学习平台,它提供了一种简单、高效的方式来构建、训练和部署机器学习模型。 本文中我们将结合代码和示例介绍如何使用 LLaMA-Factory 在 SageMaker HyperPod 上训练大模型,熟悉 SageMaker HyperPod 集群创建和多机多卡分布式训练方法。

使用 Amazon Bedrock Claude3 多模态能力和 Grafana 构建智能巡检平台

我们探讨了如何利用 Amazon Bedrock、Claude 3 大型语言模型和云原始监控工具 Grafana 来构建一个应用智能巡检系统。我们构建了一个端到端的巡检流程,包括创建 CloudWatch 数据元,监控指标创建、仪表盘关键信息提取、巡检等步骤。通过结合 Claude 3 的强大多模态能力和自然语言处理能力,我们能够高效地对多个监控指标进行巡检、分析。让大语言模型自动提取关键信息、分析当前系统状态,并生成总结性报告。

Amazon Bedrock 监控与日志记录实践

本文介绍了如何使用 Amazon Bedrock 服务对 Claude 3 模型进行监控和日志记录。通过 CloudWatch 监控指标和自定义日志,用户可以追踪模型调用的性能和行为。文章详细说明了设置过程,包括启用日志记录、配置 S3 存储和从客户端获取调用信息,以确保企业级AI应用的可靠性和透明度。

LLM Inference on Amazon EKS

LLM on AWS EKS 方案主要关注客户在自有账号部署大语言模型的需求,基于云原生 K8S 的解决方案,兼具了大语言模型推理的功能完备性、服务的扩展性和应用层面的可观测性等,帮助客户快速打造大语言模型在 AWS 平台上的推理能力。

Bedrock 多模型接入 – Bedrock Connector 部署与使用指南

在 Claude 3 发布之后,其强大的多模态推理、视觉能力、翻译、总结、写作、编码等能力,再次激发生成式 AI 的热潮。Amazon Bedrock 也是首个 Claude 3 全托管且正式可用的服务。如何通过 API Key 调用 Bedrock Claude,如何多模型接入,多租户计费等需求,一直是很多人关注的问题。为此我们开发了 Bedrock Connector 并开源,供大家测试使用和代码参考。