亚马逊AWS官方博客
Shulex 携手亚马逊云科技与 Zilliz， 打造 VOC 数字化“加速器”
随着中国企业加速“走出去”步伐，出海业务的数字化转型和创新已成为重中之重。企业出海重心正从单一的“数字化出海”转向更加全面的“出海数字化”，即将数字化技术融入出海业务的方方面面，以提升全球化运营效率、增强国际竞争力。
在这一背景下，VOC（消费者声音）的数字化运营备受关注。VOC 数字化不仅能优化企业在传播沟通、商品营销、渠道管理、客户关系等领域的战略决策，更将直接影响品牌公众形象和口碑，进而决定品牌资产价值。因此，VOC 数字化已然成为企业出海不可或缺的重要一环。国际化 VOC SaaS 公司 Shulex 精准布局，相继推出 Shulex VOC 评论分析、Shulex 智能客服等一系列出海应用，致力为中国企业出海提供全方位 VOC 数字化解决方案，赋能品牌全球化运营，助力企业在海外市场百尺竿头、更进一步。
Shulex 已经将上亿数据量的核心业务从开源向量数据库 Milvus 迁移至全托管的向量数据库云服务 Zilliz Cloud。相比于 Milvus，Zilliz Cloud 实现了 Shulex VOC 评论分析洞察报告生成速度 30% 的提升，VOC 智能客服召回率 98%，且系统稳定，0 宕机，大大降低了企业在向量数据库的运维成本。
Amazon Bedrock 是亚马逊云科技推出的生成式 AI 应用开发平台，提供完全托管的服务。借助统一的 API 接口，开发者可便捷接入 AI 公司的顶尖基础模型。Amazon Bedrock 涵盖了构建生成式 AI 应用所需的全方位功能，在确保数据隐私和安全的同时，大幅简化了开发流程。作为 Amazon Bedrock 的重要应用场景，Shulex 推出了 VOC 评论分析和智能客服两大产品线，并衍生出一系列”Bot”形态的 AI 工具，实现了商业分析、用户自动问答等多种智能化功能。在 Amazon Bedrock 强大的生成式 AI 能力和亚马逊云科技合作伙伴 Zilliz 提供的向量数据库云服务 Zilliz Cloud 的共同赋能下，这些创新”Bot”工具得以高效开发，并通过集成大语言模型，进一步拓展了功能边界。Amazon Bedrock 与 Zilliz Cloud 的紧密融合，不仅让 Shulex 能快速上线创新的 AI 应用，更为企业级客户提供了安全可靠、性能卓越的一站式生成式 AI 解决方案，有力支撑了 Shulex 在 VOC 数字化赛道的持续创新和发展。
从 Milvus 到 Zilliz Cloud，向量数据库支撑 Shulex 核心业务场景
随着业务的高速发展，仅在 VOC 评论分析业务上，Shulex 就训练了 10,000 条以上电商类目的评论标签，产生了上亿规模的向量数据。以往基于开源向量数据库 Milvus 自建方案，费时费力，稳定性无法保障，运维成本非常高昂，当出现故障的时候往往需要几个小时甚至一天才能恢复，运营疲于处理由于系统不稳定导致的客户吐槽和投诉，客户满意度也持续走低。
Shulex 技术专家李辰辉表示：“业务发展到这个阶段，对向量数据库的要求也就更严苛了，要能弹性扩容以支撑海量的向量存储与搜索，向量匹配速度要更快、SLA 足够高，运维成本一定要够低。”
在与 Milvus 的背后商业公司 Zilliz 的专家团队进行充分沟通后，Shulex 技术团队决定将核心业务的向量数据库部分搬迁至 Milvus 的全托管云服务 Zilliz Cloud 上。目前 Zilliz Cloud 主要支持了 Shulex 的 VOC 评论分析及智能客服两大块核心业务。
文本搜索场景——VOC 评论分析
VOC 评论分析服务核心是通过向量数据库对海量的 Amazon 评论/社媒数据，进行分类打标和实时分析，为客户提供实时的商品评论洞察报告，包括但不限于：用户画像、使用场景、购买动机、商品卖点、商品不足点等。
向量数据库是该业务场景的关键组件，基于 Zilliz Cloud 的 VOC 评论分析流程包含建库、选品、分析样本、全量打标、报表生成 5 个步骤，具体来看：
- 建立用来判断评论的标签库：在向量数据里面存储的表结构包括评论文本、评论的 embedding、评论的正负情感标签等等；
- 选择待分析的商品类目：在上万个类目的商品中选择感兴趣的品类作为后续进行评论分析的对象；
- 基于大模型的评论分析：选择上一步中品类的数万条评论（包含正负评论、意思相近的评论）输入给 Amazon Bedrock 上的大模型，让大模型对每个评论进行标签，将这些标签而后进行聚类后生成标签的样本库；
- 用向量数据库做分类打标：将生成的标签样本输出给向量数据库里进行该类目商品的全部评论 embedding 数据的检索，结合向量数据库来进行分类，判断这些评论的正负情感；
- 生成结构化的统计报表：基于向量数据库的分类情况，进行用户对该商品属性的情感、正负向的分析，然后生成报表。
 |
图 1 ｜基于 Amazon Bedrock 和 Zilliz Cloud 的 VOC 评论分析流程
Shulex VOC 评论分析业务收益显著，总结而言包括以下几点：
- 报表生成速度提升 30%：Zilliz Cloud 提供更高性能的向量搜索能力，其搜索引擎性能比开源 Milvus 提升超过 5 倍，稳定支持了 1000 QPS 的商品评论的高频次搜索。同时，相比于 Milvus，搜索时延降低了 50%，这使生成结构化的统计报表速度提升 30%；
- 数据分析成本降低 50%：由于无需将所有的商品评论信息通过大模型进行分析来获取评论标签，仅需要基于评论原文与向量数据库，实时召回评论标签即可生成高质量标签，去除了对大模型的依赖，极大地降低了评论数据分析的成本。
- 分钟级响应大促等突发流量：对于突发的客户访问量剧增，如大促周期，以往需要客户请求排队半个小时甚至 1 个小时，而 Zilliz Cloud 支持弹性扩缩容，集群增减分钟级即可完成，客户排队的状况也顺利解决。
大模型 RAG 应用——VOC 智能问答系统
Shulex 提供 VOC 企业智能问答系统，通过训练企业与外部数据，自动解析成 FAQ，2 分钟生成专业客服机器人，可以显著提升响应效率，同时降低运营成本。
 |
图 2 ｜基于 Amazon Bedrock 和 Zilliz Cloud 的 VOC 智能问答系统
当前，Shulex VOC 智能客服业务采用 Amazon Bedrock 上的大模型+向量数据库的标准范式构建了 RAG 应用，除了自动提取公网链接，还将企业文件、邮件、工单等多渠道的知识 embedding 后存入 Zilliz Cloud 来构建企业专属知识库，为大模型增加外接记忆体。而 Zilliz Cloud 使得大模型能够快速有效地检索和处理大量的向量数据，实时召回知识，稳定支撑 Shulex VOC 智能客服业务每秒 90 次的客户询问，稳定召回率在 98% 以上，据统计，Shulex 智能客服机器人已经可以承担 80% 以上的客服工作。
Shulex CTO 潘胜一表示：“从开源的向量数据库 Milvus 切换到托管云服务 Zilliz Cloud 后，我们的业务收益显著提升，实现了更低的运维成本、更高的业务速度、更灵活的系统架构以及更稳定的用户体验。通过使用 Zilliz Cloud，我们能够享受到专家团队的支持，他们能够高效沟通并快速解决业务中遇到的问题。总的来说，Zilliz Cloud 为我们带来了更大的便利和竞争优势，我们对这一转变感到非常满意和乐观。”
关于 Zilliz
Zilliz 是一家领先的企业级人工智能向量数据库公司，其基础是受欢迎的开源向量数据库 Milvus。2023 年，Zilliz 推出了基于 Milvus 的全托管云服务 Zilliz Cloud，并且已经登陆了 AWS Marketplace。