跳至主要内容

AWS 解决方案库

部署 AWS DeepRacer 聊天机器人指南

概览

本指南说明了如何部署和使用 AWS DeepRacer 聊天机器人,这是一款由多模态生成式人工智能和域自适应技术驱动的智能虚拟助手。该聊天机器人结合了大型语言模型、对话日志分析、问答支持以及代码生成能力,为 AWS DeepRacer 提供一种全面且智能的定制化解决方案。AWS DeepRacer 聊天机器人配备用户友好的界面和先进的 AI 功能,可生成符合自动驾驶赛车用户需求的自定义 Python 奖励函数,简化模型工作流程,并协助用户提升模型性能。 

工作原理

此架构图说明了如何部署基于生成式人工智能的 AWS DeepRacer 聊天机器人。该架构图展示了关键组件及其相互作用,并概述了架构的结构和功能。

开始使用

部署本指南

示例代码

使用示例代码在您的 AWS 账户中部署本指南

Well-Architected 支柱

上面的架构图是按照 Well-Architected 最佳实践创建的解决方案示例。要做到完全的良好架构,您应该遵循尽可能多的 Well-Architected 最佳实践。

亚马逊CloudWatch AWS X-R ay和AWS AppSync 是一套协同工作的服务,可帮助用户有效地运行和监控他们的系统。CloudWatch 使管理员能够监控其聊天机器人应用程序,收集日志和指标,以获得有关性能和使用模式的宝贵见解。X-Ray 提供分布式跟踪功能,使开发人员能够通过其无服务器架构对请求流进行可视化和分析。AWS AppSync 提供实时数据同步和离线功能,增强了聊天机器人的响应能力和可靠性。这些服务共同为用户提供了高效的工具,帮助全面检测聊天机器人、了解其运行状态,并基于实时数据和洞察持续优化其操作。

阅读“卓越运营”白皮书

AWS DeepRacer 聊天机器人使用各种 AWS 安全服务,包括亚马逊 Cognito AWS 身份和访问管理 (IAM) 和 AWS AppSync,来保护信息和系统。例如,亚马逊 Cognito 为聊天机器人提供用户身份验证和授权,从而保护对 AWS AppSy nc API 的访问。IAM 策略采用最小权限原则进行配置,因此 Lambda 函数和其他资源仅拥有执行各自操作所需的权限。此外,AWS AppSync的内置安全功能,加上亚马逊Cogn ito 的集成,可以保护GraphQL API终端节点。

阅读《安全性》白皮书

AWS DeepRacer 聊天机器人以一种高度可用和容错的方法为中心,该方法包括 Lambda、Dynam oDB 和 AWS AppSync。 Lambda 及其无服务器架构促进了聊天机器人的自动扩展和高可用性,从而有效处理波动的工作负载。DynamoDB 是一个高度可用且耐用的数据库,可用作存储对话历史记录和其他持久数据的存储库。另一方面,AWS AppSync 提供实时数据同步和离线支持,增强了聊天机器人保持状态和从网络中断中恢复的能力。此外,使用 AWS 云开发套件 (AWS CDK) 进行基础设施部署可以实现一致和可重复的设置,从而降低配置错误的风险并提高系统的整体可靠性。

阅读《可靠性》白皮书

AWS DeepRacer 聊天机器人利用 AWS 云的可扩展和高性能服务,包括亚马逊 Bedrock 提供的 LLM,来提供快速且响应迅速的互动。这使AWS客户能够最大限度地提高其 AWS DeepRacer 模型的性能。Amazon Bedrock 提供的基础模型可以无缝集成和扩展,无需进行大量基础设施管理。

此外,Lambda 的无服务器计算功能可实现高效的资源利用,可根据需求自动扩展。DynamoDB 具有个位数毫秒的数据检索延迟,允许快速访问对话历史记录和其他相关数据。这些服务的协同集成,使用户能够构建高性能聊天机器人,轻松应对复杂查询并高效处理实时互动。

阅读《性能效率》白皮书

使用 Lambda 的无服务器架构,结合亚马逊 Bedrock 和 D ynamoDB 的按使用量付费定价模式,有助于优化本指南中的成本。Lambda 函数仅在调用时产生费用,从而最大限度地减少空闲资源支出。Amazon Bedrock 的定价模型使参与者能够尝试先进的人工智能功能,而无需在模型训练或基础设施上进行前期投资。最后,DynamoDB 的按需容量模式有助于确保参与者仅为聊天机器人提出的实际读写请求付费。

阅读《成本优化》白皮书

本指南选用的无服务器服务能够根据实际使用情况自动扩展资源,从而最大限度减少闲置容量并降低能源消耗。此外,在 Amazon Bedrock 中使用预训练的模型无需在专用硬件上进行高能耗模型训练。传统的机器学习模型训练通常需要大量计算资源和能源,因为模型必须从头开始在大型数据集上进行训练。但是,通过使用亚马逊 Bedrock 中提供的预训练模型,AWS DeepRacer 聊天机器人可以绕过这种能源密集型训练流程,改为微调专门针对AWS DeepRacer的现有模型。这种方法不仅节约了能源使用,还减少了与聊天机器人开发和部署相关的碳足迹。

阅读《可持续性》白皮书

免责声明

示例代码;软件库;命令行工具;概念验证;模板;或其他相关技术(包括由我方人员提供的任何前述项)作为 AWS 内容按照《AWS 客户协议》或您与 AWS 之间的相关书面协议(以适用者为准)向您提供。您不应将这些 AWS 内容用在您的生产账户中,或用于生产或其他关键数据。您负责根据特定质量控制规程和标准测试、保护和优化 AWS 内容,例如示例代码,以使其适合生产级应用。部署 AWS 内容可能会因创建或使用 AWS 可收费资源(例如,运行 Amazon EC2 实例或使用 Amazon S3 存储)而产生 AWS 费用。

本指南中提及的第三方服务或组织并不意味着亚马逊或 AWS 与第三方之间的认可、赞助或从属关系。AWS 的指导是一个技术起点,您可以在部署架构时自定义与第三方服务的集成。

找到今天要查找的内容了吗?

请提供您的意见,以便帮助我们提高页面内容的质量