“秒回” 响应客户咨询，7*24 小时为投资者服务，生成式 AI 让华通证券效能起飞

华通证券的海外客户咨询时，往往涉及大量的账户信息和交易数据等，客户若得不到及时回复，就会缺乏安全感，同时对公司的信任度也会大大降低。面向海外客户，华通证券通过亚马逊云科技 Amazon Bedrock 调用 Anthropic Claude 3 模型，构建 AI 客服，通过 Claude Sonnet、Haiku 模型识别客户意图，结合华通证券的自建知识库，和引入的开源 embedding（嵌入）模型，自动生成专业严谨、满足客户诉求的回复。AI 客服让华通证券的客户咨询响应时间从数分钟降低到 3 秒钟以内，真正实现了“秒回”，提升客户满意度和忠诚度。

除了 AI 客服，华通证券面向海外客户通过与亚马逊云科技 Amazon Bedrock 调用 Claude 模型，结合向量知识库、文本语音互转等技术，整合上市公司、资本市场相关数据，打造并发布了 AI 投资者关系官。上市公司通过 AI 投资者关系官数字人与海外投资者无缝沟通，回答投资者各类提问，提升上市公司的投资者关系工作生产力。此外，AI 投资者关系官还能为上市公司提供增值服务，在华通证券的上市公司与投资者社区中面向投资者开展上市公司直播，通过 AI 投资者关系官数字人的持续曝光，与华通证券实现流量互引，在投资者中扩大双方的品牌覆盖和提升品牌形象。

面向海外客户构建生成式 AI 应用时，Amazon Bedrock 不会将客户的数据分享给大语言模型供应商，也不会用于模型训练。在实际的部署和应用中发现，相比于华通证券之前采用的其它大语言模型，通过 Amazon Bedrock 调用 Claude 模型，不仅仅综合性能更好，而且安全性也得到了更充分保障，严格的数据安全和合规保护让华通证券高枕无忧，进一步赢取了客户信任。

在 AI 客服构建中，起初，华通证券的工程师自己摸索编写提示词，初始版本的 AI 客服生成的答复用语较长，句式不太符合口语表达习惯，效果不尽理想。为此，亚马逊云科技专门安排了专家团队来到华通证券，提供关于提示词的最佳实践介绍和技术支持，帮助华通证券开发人员清晰了解不同的提示词及其对应的大语言模型输出效果，指导开发人员更好地构建有效的提示词库。经过 PE（Prompt Engineering，提示词工程）优化后，AI 客服生成的回复比较简短，有更多更个性化表现，句式和口吻等更符合日常交流，让 AI 客服的角色设定更符合既定要求，更自然和人性化。