概览
概览
在社交媒体平台的客户服务场景下，对于长尾用户提供快速高质量的服务存在来自于成本和准确性方面的挑战。亚马逊云科技帮助泛娱乐与广告客户构建端到端的智能客服 Chatbot，该方案指南支持基于企业知识库，使用说明，历史对话数据等多种输入文档作为应答知识库，并配置场景问答提示词模版，帮助终端用户高效获取有效信息，能够有效提升长尾用户对于客服反馈的满意度，并通过该方式提升用户体验和高净值客户的转化率。该指南基于 Amazon Bedrock 提供的第三方模型 Claude 3、Amazon OpenSearch、Amazon ECS 等服务、RAG 与 AI Agent 等技术共同构建。
在社交媒体平台的客户服务场景下，对于长尾用户提供快速高质量的服务存在来自于成本和准确性方面的挑战。亚马逊云科技帮助泛娱乐与广告客户构建端到端的智能客服 Chatbot，该方案指南支持基于企业知识库，使用说明，历史对话数据等多种输入文档作为应答知识库，并配置场景问答提示词模版，帮助终端用户高效获取有效信息，能够有效提升长尾用户对于客服反馈的满意度，并通过该方式提升用户体验和高净值客户的转化率。该指南基于 Amazon Bedrock 提供的第三方模型 Claude 3、Amazon OpenSearch、Amazon ECS 等服务、RAG 与 AI Agent 等技术共同构建。
常见挑战
常见挑战
传统的客户服务解决方案，部署门槛高。
需要 7*24 无间断服务支持，业务全球化过程中需要对多语言的支持。
为长尾客户提供高质量的客户服务可能会增加高额的人力成本以及必要的培训成本
优势
优势
一个全面的知识库，涵盖了常见的查询、产品信息和故障排除指南。这使客户服务代表能够迅速找到准确的答案，提高他们的效率和效果。
生成式人工智能客户服务系统利用自然语言处理技术自动响应常见问题，为客户提供及时的协助和支持。
依托大语言模型对多语言的理解，可以接受多语言的输入。
对接外部系统，获取实时数据，流程自动化。
支持用户反馈分析和用户会话分析。
架构图及说明
用户从 Application Load Balancer 的 Endpoint 访问 Chatbot Application，也可以通过 Amazon Route53 里绑定的域名访问。
Application Load Balancer 将用户的 Http 请求转发到 Chatbot Application，Chatbot Backend 也提供了流式输出的 API。
Chatbot Application 使用语义搜索从向量数据库 (AOS) 里检索相似的问题和答案
Chatbot 调用 Amazon Bedrock 的 Claude3 模型，使用 RAG 的方式将用户的问题和背景知识发送给 LLM，获取答案。
用户的问答会记录到 Amazon DynamoDB 里，用于数据分析和统计。
架构图及说明
在 Amazon ECS 里部署 Chatbot Application，并从 Amazon ECR 里获取镜像。
用户从 Application Load Balancer 的 Endpoint 访问 Chatbot Application，也可以通过 Amazon Route53 里绑定的域名访问。
Application Load Balancer 将用户的 Http 请求转发到 Chatbot Application，Chatbot Backend 也提供了流式输出的 API。
Chatbot Application 使用语义搜索从向量数据库 (AOS) 里检索相似的问题和答案
Chatbot 调用 Amazon Bedrock 的 Claude3 模型，使用 RAG 的方式将用户的问题和背景知识发送给 LLM，获取答案。
用户的问答会记录到 Amazon DynamoDB 里，用于数据分析和统计。
