生成式 AI 提升运营效率，Amazon Bedrock 助力 Shulex 高效构建更智能的客户洞察应用

随着企业出海的重心从“数字化出海”转变为“出海数字化”，企业借助数字化技术实现出海业务转型和创新，已成为中国企业出海打造差异化优势的重要手段。其中，数字化客户声音洞察能够帮助企业制定业务增长策略，包括传播、商品促销、渠道运营、用户关系等方面的策略，打造品牌公众印象、品牌口碑、累积品牌资产价值，因此受到出海厂商青睐，Shulex 就是客户声音洞察 SaaS 厂商的佼佼者之一。

Shulex 聚焦出海业务，开发了 Shulex 智能客服、Shulex VOC 等 SaaS 应用，以 Shulex 自研模型为基础，帮助出海企业进行业务创新，实现业务增长。

以前，Shulex 基于 NLP（Natural Language Processing，自然语言处理）技术自研了客户声音洞察机器学习模型，实际使用中获得了良好效果。但随着客户体验触点愈加分散，数据从之前的亚马逊电商网站评论分析、客服邮件，增加到社交媒体、网络直播、实时聊天等多种数据源，多渠道、多类型、多语种的客户数据让基于机器学习模型的应用遇到了越来越大的挑战。2023 年初，Shulex 开始尝试和探索用大语言模型进行更为高效的客户声音数据分析与洞察。此外，Shulex 希望通过生成式 AI 来强化 Shulex 智能客服的能力，使之具备一定程度的 Agent（代理）功能以提供更多形式的服务。为此，Shulex 需要引入生成式 AI 升级自身应用。

在选择合作对象时，Shulex 从自身技术栈出发，基于“开源”、“性能”和“成本”这几点进行考量。首先在开源方面，Shulex 主要使用的是 Hugging Face 的模型和能力，而亚马逊云科技正是 Hugging Face 的首选云供应商。Shulex 可以使用 Amazon SageMaker JumpStart 和 Hugging Face 亚马逊云科技深度学习容器等方式来调用 Hugging Face 模型，便捷高效地进行模型的训练、微调和部署。其次在性能方面，面向海外客户业务，Amazon Bedrock 上的 Claude 模型，支持最长 200k Tokens 的分析和处理，这是 Claude 特有的其它商用大语言模型难以匹敌的能力，可极大提升 Shulex VOC 的内容分析和处理效率。再次在成本方面，与目前市面上其它主流商用大语言模型相比，Claude 的每百万 Tokens 价格要低 20%，具备明显的成本优势。因此，Shulex 决定与亚马逊云科技合作，借助亚马逊云科技的生成式 AI 能力，提升 Shulex 智能客服、Shulex VOC 等 SaaS 产品的综合表现。

Amazon Bedrock 是一项全托管生成式 AI 服务，使用单一 API 即可访问众多业界领先的高性能大语言模型，或调用构建生成式 AI工具，在维护隐私和安全的同时简化开发。通过 Amazon Bedrock 调用大语言模型，Shulex 旗下 Shulex VOC 和 Shulex 智能客服两条产品线对应的一系列以“Bot”命名的 AI 工具，得以快速完成开发，并借助大语言模型强化能力，实现商业分析、用户问题自动应答等功能。

Shulex VOC 产品的颗粒度较市场同类产品更为细化，能够进一步细分使用场景、用户期望满足程度以及用户标签词占比等指标。借助这些能力，Shulex VOC 的用户能够从商品的反馈、销量、 品牌、属性与价值呈现等各个维度构成获得初步洞察。

通过 Amazon Bedrock 调用 Claude 模型 ，Shulex 实现了更深入的洞察—— Tag Reasoning（标签推理）功能。针对商品的标签，Analysis Bot 能分析用户留言、评论、社交媒体发言等多渠道信息，分析该标签背后的原因，从而制定商业策略。凭借 Claude 模型支持最长 200k 的 Tokens 分析，标签推理不仅能够支持一次性输入更多内容、进行更为高效的分析，内容之间的关联性也因此更为紧密，使得标签推理的结论更有说服力。此外，Shulex 正在将 Claude 3 的强大能力应用在商业分析级别的报告中，为企业在用户画像洞察、产品规划与选品、品质口碑与提升、爆款销售转化上提供可量化依据。

Shulex 算法合伙人潘胜一表示， “Analysis Bot 在某应用场景中，对数据的分析结果，与我们资深客户专家的分析结论完全一致。客户认为，Analysis Bot 有望在未来节约商业决策所需时间，加速业务发展。”

AI Bot 是 Shulex 智能客服中用于直接与海外用户沟通、问答的工具，支持 10 种不同语言的邮件和聊天服务，且能 24 小时在线，1 分钟内及时回复客户问题。为服务好海外客户，Shulex 为 AI Bot 设计了 “构建框架 - 应用框架 - 强化框架” 三个阶段，而 Amazon Bedrock 上的 Claude 模型，贯穿于这三个步骤之中，起到了关键作用。

首先，由于每一位客户的经营领域都不一样，智能客服需要针对海外客户的经营领域，利用 RAG（Retrieval Augmented Generation，检索增强生成）技术在构建的框架内回答问题。这一步操作需要分析和提炼海外客户网站帮助中心、产品使用手册、客服对话记录等内容。Claude 拥有强大的语言分析和处理能力，能够高效、迅捷地搭建所需框架。第二步是运用 RAG 技术进行自然语言提问，并给出回答：识别用户问题中的关键词，确认用户意图，然后根据意图进行知识召回。在这一步中，Claude 在回答客户问题时可以对语句进行优化，让回答更易理解、亲切、有温度。在实际服务海外客户的过程中，Claude 出现“幻觉”回答（Hallucination，生成式 AI 的错误回答）几率较低，充分满足了用户需求。第三步也是最重要的一步，则是对现有知识库中的内容进行基于相关度、召回准确率的排序，同时匹配用户的强、弱需求，从而提升回答的准确性，并不断强化 RAG 技术的应用效果。在 Analysis Bot 面向海外客户业务的应用中，Claude 已经证明它能够有效分析内容相关性，提供商业级别的结论，并在 AI Bot 等服务于最终用户的工具中同样表现出色。

除此之外，面向海外客户，Amazon Bedrock 也提供丰富的大语言模型和 embedding（嵌入）模型供客户选择。Shulex 在构建知识库时，使用 Amazon Bedrock Cohere embedding 实现向量化。该模型可支持 100 多种语言，涵盖了东南亚多国小语种，支持客户全球业务的拓展。同时， Shulex 还应用 Amazon OpenSearch Service 来支持向量数据库的构建与混合搜索功能，构筑生成式 AI 底座。

目前，AI Bot 的持续优化正在有条不紊地进行。

Agent 是大语言模型技术领域的重点发展方向，Shulex 也正在重点研发 Agent 产品 ——Task Bot。Shulex Task Bot 的设计初衷，是在 Shulex 智能客服的某些场景中，调用各种内外部流程和数据，并按照优先级完成自动化办理或查询等任务，如协助用户查询订单的物流进度、完成订单退货等。其中，分析用户的自然语言并准确判断出海外用户的需求，以及运用 Function Call（大语言模型工具调用）方式调用外部 API 完成单个任务请求，这两项功能均已实现。然而，若需要分解用户请求为多个子任务，并且根据优先级进行工作流的处理和编排，就需要 Agent 的协助了。

使用 Amazon Bedrock Agent 功能，Shulex 能帮助海外客户轻松创建和部署完全托管的 Agent。通过调用 Agent API，复杂的任务如计划编排、业务 API 动态调用、知识库查询，可以被拆分成多个子任务并进行优先级设定、排序和调度，确保任务的顺利完成。例如，在处理海外客户的自动订单退货场景时，Agent 可以自动管理任务的执行顺序，使 Task Bot 能在理解用户指令后，正确调用数据库查询订单状态，确认结果，并通过向量搜索查询知识库，核实是否符合退货政策，最终综合信息给出用户退货答复及操作指引。如果没有 Agent 的自动化支持，处理这些任务将需要手动定义步骤顺序，不仅无法实现订单处理的自动化，而且会增加订单处理时间和人力成本。目前，双方正在就此合作进行紧密接洽，Shulex 期待通过调用 Amazon Bedrock Agent ，进一步强化智能客服 Task Bot 的能力，从而更有效地服务海外用户。

除此之外，亚马逊云科技具有引领全球的安全合规理念与实践，Amazon Bedrock 可以帮助海外客户满足数据安全性和合规性标准，例如 GDPR（General Data Protection Regulation，欧盟通用数据保护条例） 和 HIPAA（Health Insurance Portability and Accountability Act，健康保险可携性和责任法案）等，助力 Shulex 旗下产品满足海外安全合规要求。由于 AI Bot、Task Bot 等智能客服会直接与用户对话，其中可能涉及用户个人身份信息，如姓名、电话、家庭住址等。Guardrails for Amazon Bedrock 提供的防护机制，允许检测用户输入的个人信息行为，并拒绝用户输入这些信息，同时还能提供带有可配置自定义阈值的内容筛除条件，屏蔽不良话题，支持企业设定自定义防护策略。

在亚马逊云科技相关服务和技术团队的协助下，Shulex 从评估大语言模型能力、提示词工程优化、 Analysis Bot 性能测试、业务并发能力提升、灰度上线测试到全面线上更新，整个流程仅用时三周，大幅缩短了生成式 AI 应用程序的开发周期。

Shulex 算法合伙人潘胜一这样评价亚马逊云科技的生成式 AI 能力：“面向海外客户业务，通过应用 Amazon Bedrock 这一强大的生成式 AI 服务，我们以 Shulex VOC Analysis Bot 为首的一系列 Bot 的能力得到了强化，用户整体满意度提升了 15.4% ，用户留存率也提高了 12.1%。我们认为，亚马逊云科技具有非常全面的生成式 AI 能力，基于亚马逊云科技的产品与服务，企业不论是选择自研大语言模型还是选用市场上的热门商用大语言模型，亚马逊云科技都有完善的技术路径可供实践。”

此外，潘胜一还强调了 Amazon SageMaker 作为全托管的生成式 AI 基础设施工具，对 Shulex 自研大语言模型的帮助：“通过使用 Amazon SageMaker，Shulex 算法工程师可以更方便地进行数据清洗、训练和部署自研大语言模型，整体模型迭代时间比使用传统训练的方式缩短了 30%。”

未来，面向海外客户，Shulex 希望进一步就 Amazon Bedrock 与亚马逊云科技展开合作，继续深化 Shulex 智能客服 Task Bot 的 Agent 能力，更好地贯彻 “以 AI 赋能 SaaS 服务，助力客户数字化转型” 的愿景，服务好海内外客户。

Shulex 是一家专注于全球客户声音洞察的 AI SaaS 公司，借助业界领先的生成式 AI 基础模型构建针对行业场景的 AI 应用，提高产品经理和市场运营的洞察力，帮助企业优化产品和品牌。 公司 2021 年 8 月成立，目前 50 人，注册用户超过 15 万。

*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。