亚马逊AWS官方博客
Category: Artificial Intelligence
使用 Amazon SageMaker 进行 Llama 2 模型的实时响应流式推理
注意:这篇博客文章是一篇翻译作品。您可以在这里阅读原始英文版本。 随着生成式人工智能应用被迅速采用,这些应用需 […]
在持续集成流水线中应用 Gen AI 识别并修复漏洞
本文展示了开发团队如何利用 AWS 云服务(如 Amazon Bedrock、Amazon Inspector、AWS Lambda 和 Amazon EventBridge)构建一个无服务器的事件驱动解决方案,在持续集成流水线中自动检测和修复容器的通用漏洞披露(CVE)。借助强大的生成式人工智能和无服务器技术,这一曾经复杂的挑战变得不再困难。
在 Amazon SageMaker HyperPod 上使用 LLaMA-Factory 轻松微调大模型
LLaMA-Factory 是开源社区一套大模型集成训练框架,AWS SageMaker 是亚马逊云服务中的一个全面的机器学习平台,它提供了一种简单、高效的方式来构建、训练和部署机器学习模型。 本文中我们将结合代码和示例介绍如何使用 LLaMA-Factory 在 SageMaker HyperPod 上训练大模型,熟悉 SageMaker HyperPod 集群创建和多机多卡分布式训练方法。
使用 Amazon Bedrock Claude3 多模态能力和 Grafana 构建智能巡检平台
我们探讨了如何利用 Amazon Bedrock、Claude 3 大型语言模型和云原始监控工具 Grafana 来构建一个应用智能巡检系统。我们构建了一个端到端的巡检流程,包括创建 CloudWatch 数据元,监控指标创建、仪表盘关键信息提取、巡检等步骤。通过结合 Claude 3 的强大多模态能力和自然语言处理能力,我们能够高效地对多个监控指标进行巡检、分析。让大语言模型自动提取关键信息、分析当前系统状态,并生成总结性报告。
Amazon Bedrock 监控与日志记录实践
本文介绍了如何使用 Amazon Bedrock 服务对 Claude 3 模型进行监控和日志记录。通过 CloudWatch 监控指标和自定义日志,用户可以追踪模型调用的性能和行为。文章详细说明了设置过程,包括启用日志记录、配置 S3 存储和从客户端获取调用信息,以确保企业级AI应用的可靠性和透明度。
云上构建 ChatBI,德比软件引领企业数据分析智能化
德比软件实施全面拥抱 GenAI 的技术战略,在酒店智能推荐、智能BI报表、智能缓存、智能数据标注等多个场景开展创新性实践,充分发挥 GenAI 在提升运营效率、优化用户体验等方面的巨大潜力。
《针对智能摄像头与智能家居厂商的视频分析》之典型应用场景和核心特性
使用 Claude 赋能智能摄像头与智能家居厂商的视频分析场景
基于大模型的多意图增强搜索
本文将会以传统业务系统非常普遍的数据匹配检索为例,深入剖析如何利用 Claude 的强大语义分析能力,改变传统应用的交互模式并快速实现搜索性能的优化。
AWS 一周综述 – LlamaIndex 对 Amazon Neptune 的支持、强制删除 AWS CloudFormation 堆栈等(2024 年 5 月 27 日)
上周,Matt Wood 博士,Amazon Web Services(AWS)人工智能产品副总裁,在洛杉 […]
LLM Inference on Amazon EKS
LLM on AWS EKS 方案主要关注客户在自有账号部署大语言模型的需求,基于云原生 K8S 的解决方案,兼具了大语言模型推理的功能完备性、服务的扩展性和应用层面的可观测性等,帮助客户快速打造大语言模型在 AWS 平台上的推理能力。