跳至主要内容

AWS 解决方案库

AWS 上使用向量数据库的聊天机器人的指南

概览

本指南为创建检索增强生成(RAG)应用程序(例如问答机器人)提供分步指南。通过结合使用 AWS 服务、开源基础模型以及 LangChain 和 Streamlit 等软件包,您可以创建企业级应用程序。基于 RAG 的方法使用相似性搜索为用户的查询提供背景信息,从而提高所提供答复的精确性和充分性。

工作原理

这些技术细节包含一张架构图,用于说明如何有效使用本解决方案。该架构图展示了关键组件及其相互作用,并逐步概述了架构的结构和功能。

Well-Architected 支柱

上面的架构图是按照 Well-Architected 最佳实践创建的解决方案示例。要做到完全的良好架构,您应该遵循尽可能多的 Well-Architected 最佳实践。

本指南通过自动执行任务以及提供可减少手动工作、提升系统可靠性和加强安全性的功能来增强卓越运营。SageMakerAPI GatewayLambdaOpenSearch Service 等 AWS 服务是完全托管的,因此您的开发团队无需处理服务器预置、修补和日常维护。此外,它们可以实现模型部署、代码实施、扩展和失效转移等方面的自动化,从而降低发生人为错误的可能性,并加快运营事件期间的响应速度。

阅读卓越运营白皮书

本指南优先保障安全,保护用户数据和互动以及在用户之间建立信任。 SageMakerAPI GatewayOpenSearch Service 等服务会对数据进行加密,使未经授权的用户无法读取这些数据。API 网关 Lambda AWS 身份和访问管理 (IAM) 使您可以精确控制谁可以访问系统以及他们可以做什么,API 网关 OpenSearch 服务提供身份验证以防止未经授权的进入并避免潜在的安全问题。

阅读安全白皮书

本指南使用高可靠性服务,可确保您的系统对用户保持可用和可信。SageMakerLambdaOpenSearch Service 等 AWS 服务高度可用,能够自动扩展以应对更多用户需求而不会减慢速度,并使用内置的备份计划来保护您的数据免于丢失或损坏。此外,API GatewayLambda 等服务可以顺畅地处理错误,确保您的用户不会察觉到中断。

阅读可靠性白皮书

本指南使用多项可自动执行设置模型、处理请求和适应变化等任务的服务。这使您的系统更加高效快捷,而无需大量的手动操作。SageMaker 可自动部署机器学习(ML)模型,从而提高应用程序的整体响应能力。API Gateway 可高效地管理传入的请求,最大限度地加快响应速度。Lambda 函数可自动扩展以处理各种不同的工作负载,而 OpenSearch Service 可提供快速准确的文档检索,从而使查找相似文档的过程变得快速而响应迅捷。

阅读性能效率白皮书

本指南通过最大限度地减少资源使用量、采用高效的定价模式、减少维护开销以及优化数据处理来支持成本优化,最终降低运营成本。例如,SageMakerAPI GatewayLambda 会根据需求自动扩展和分配资源。SageMakerOpenSearch Service 之类的托管服务还可以减轻开发团队的运营负担,从而降低基础设施管理和维护的成本。此外,Lambda 提供即用即付定价模式,因此只有在函数实际处理请求时才向您收费,而 API Gateway 可以高效地处理请求和响应,从而减少通过网络传输的数据量。

阅读成本优化白皮书

本指南使用了通过自动可扩展性支持可持续性的服务。LambdaAPI Gateway 等无服务器服务仅在被调用时使用计算资源,而 OpenSearch ServiceSageMaker 会自动扩展以满足您的工作负载需求。本指南可通过促进资源的高效利用,帮助您避免不必要的能源消耗并减少碳足迹。

阅读可持续发展白皮书

相关内容

机器学习示例代码

大型语言模型 (LLM) 和检索增强生成 (RAG)

此示例代码演示了基于 RAG 的 LLM 驱动的问答机器人。

免责声明

示例代码;软件库;命令行工具;概念验证;模板;或其他相关技术(包括由我方人员提供的任何前述项)作为 AWS 内容按照《AWS 客户协议》或您与 AWS 之间的相关书面协议(以适用者为准)向您提供。您不应将这些 AWS 内容用在您的生产账户中,或用于生产或其他关键数据。您负责根据特定质量控制规程和标准测试、保护和优化 AWS 内容,例如示例代码,以使其适合生产级应用。部署 AWS 内容可能会因创建或使用 AWS 可收费资源(例如,运行 Amazon EC2 实例或使用 Amazon S3 存储)而产生 AWS 费用。

本指南中提及第三方服务或组织并不意味着 Amazon 或 AWS 与第三方之间存在认可、赞助或从属关系。AWS 的指南是一个技术起点,您可以在部署架构时自定义与第三方服务的集成。

找到今天要查找的内容了吗?

请提供您的意见,以便我们改进网页内容的质量。