将节省的 70% 成本
重定向用于员工培训
全天候
为平台用户提供支持
利用个性化的聊天机器人回复
改善了客户引导
通过由未来的生成式人工智能提供
支持的知识库提高了生产力
概述
HKBGE 正在建立一个合规并且值得信赖的虚拟资产交易平台,以供客户处理和交易虚拟资产以及公司的安全托管服务。为了对客户的问题进行个性化回复,HKBGE 与 AWS 合作创建了基于 Meta 的 Llama 2 大型语言模型的生成式人工智能聊天机器人。
此聊天机器人由使用 NVIDIA A10G Tensor Core GPU 的 Amazon EC2 G5 实例提供支持,预计将提供更好的客户引导体验,每天可提供数以千计的个性化回复。此外,HKBGE 预计能够将支持成本减少 70%,这样就可以腾出资源投资于员工培训和量身定制的客户服务。

机会 | 为加密交易商提供个性化的聊天机器人支持
Hong Kong BGE Limited(HKBGE)由专注于亚太地区的上市金融技术集团 HKE Holdings 建立,为散户投资者和专业投资者提供数字资产交易解决方案。2021 年,HKBGE 向香港证券及期货事务监察委员会(SFC)申请了虚拟资产交易平台牌照,以提供加密交易服务。
据 HKBGE 预测,一旦 SFC 授予牌照,他们的交易平台将如期推出,届时将会收到来自数千名感兴趣的客户的大量查询。最常见的问题可能与日常任务有关,例如开户标准、支票余额和存款/提款流程。预计初步查询将在推出后的前几周内达到顶峰。据 HKBGE 预测,随着业务扩展,查询量会随着时间的推移而成比例增加。
为了帮助提供更好的客户体验,HKBGE 希望开发一种生成式人工智能(AI)聊天机器人,以便在客户访问平台时为常见问题(FAQ)提供个性化的回复。该解决方案旨在尽量缩短问题解决的时间,并让客户支持人员腾出时间专注于更复杂的任务和更关键的客户互动。

“得益于 AWS 的灵活性,我们的生成式人工智能聊天机器人可以快速、高效地为数以千计的查询提供量身定制的回复。”
Wilson Ho
HKBGE 的 Chief Operating Officer
解决方案 | 尽量提高聊天机器人性能和平台安全性
自 2021 年申请牌照以来,HKBGE 与 Amazon Web Services(AWS)进行了广泛合作,以开发他们的交易平台。在 2023 年年底,HKBGE 的 IT 团队与 AWS 解决方案架构师合作开发了检索增强生成(RAG)聊天机器人,这款聊天机器人将基于检索的模型的多项优势与生成式人工智能模型融合,以提供更多与上下文相关的回复。
作为开发过程的一部分,客服和 IT 团队与 AWS 合作开发了 RAG 聊天机器人的搜索功能。这包括查看不同的数据库,例如开源的 VectorDB。双方还对 Meta 开发的大型语言模型(LLM)Llama 2 执行了合作测试。测试是在使用 NVIDIA A10G Tensor Core GPU 的 Amazon Elastic Compute Cloud(Amazon EC2)G5 实例上进行的。
在开发过程的另一部分中,需要确保 LLM 能够识别不法分子的不恰当问题。HKBGE 的网络专家 Cyrus Chan 表示:“我们需要保护聊天机器人不被蓄意破坏的个人滥用。” 这项保护策略也是确保平台弹性的更广泛计划的一部分。
HKBGE 与 AWS 解决方案架构师们合作,基于 AWS Well-Architected Framework 最佳实践构建了他们的交易平台,包括使用多种 AWS 可用区和 AWS Identity and Access Management(IAM)Identity Center 功能实现了业务连续性。
此外,HKBGE 还可以使用 AWS 向世界各地的专业人士和机构提供安全、可靠的数字资产交易服务。“AWS 可用区为我们的整体系统架构提供了卓越的可用性和保障,这样,我们就能够毫无顾虑地进一步开发 HKBGE 交易平台”,HKBGE 的技术运营总监 Samuel Ng 说道。
如今,全球的各个金融服务公司都在采用 AWS 解决方案,以通过大规模提供安全性和合规性来加速创新。HKBGE 采用了 Amazon GuardDuty、Amazon Inspector、Amazon Detective 和 AWS Security Hub,以便最大限度地提高云安全性。HKBGE 的首席运营官 Wilson Ho 表示:“AWS 团队在合规性方面为我们提供了大量的支持。”例如,AWS 合规专家与我们讨论了如何遵循香港证券及期货事务监察委员会的建议。”
该平台还使用 AWS Lambda、Amazon Simple Notification Service(Amazon SNS)、AWS CloudWatch 和 AWS CloudTrail 等服务进行审计。“我们在 AWS 上采用的综合安全方法提供了实时监控,可确保遵守监管标准并保护客户的隐私”,Cyrus 补充道。
成果 | 快速扩展以支持成千上万的预期每日查询
HKBGE 目前正在 AWS 上的一个测试环境中运行他们的生成式人工智能聊天机器人,并计划在交易平台推出时将其付诸实施,以利用对常见问题的个性化回复为客户提供出色的引导体验和平台。“得益于 AWS 的灵活性,我们的生成式人工智能聊天机器人可以快速、高效地为数以千计的查询提供量身定制的回复”,Wilson 评论道。
据 HKBGE 预计,当聊天机器人全面投入生产之后,常见问题支持成本有望减少 70% 之多,并腾出资源投资于员工培训。此外,聊天机器人还能够全天候运行,因此将为该公司的尊贵客户提供全天候的个性化帮助。
除了客户支持以外,HKBGE 还计划部署聊天机器人,以解决员工对内部流程和要求进行的查询。“我们非常喜欢这样一个理念:将聊天机器人演变成内部知识库,并提供信息片段以提高员工的生产力”,Wilson 说道。
HKBGE 团队还在探索生成式人工智能如何在其他潜在方面为客户提供帮助。“AWS 上的生成式人工智能具有很多潜在的使用案例,可以增强对我们的员工和客户的支持”,Wilson 总结道。
关于 HKBGE
HKBGE 是一家总部位于中国香港的金融技术公司。该公司提供了一个高效、公平、安全的虚拟资产交易平台,以服务于为香港的金融技术社区做出了贡献的散户投资者和专业投资者。
使用的 AWS 服务
Amazon EC2
Amazon Elastic Compute Cloud(Amazon EC2)提供最广泛、最深入的计算平台,拥有超过 750 个实例,可选择最新的处理器、存储、网络、操作系统和购买模式,以帮助您最好地满足工作负载的需求。
Amazon GuardDuty
Amazon GuardDuty 将机器学习与来自 AWS 和领先的第三方的集成威胁情报相结合,以帮助保护您的 AWS 账户、工作负载和数据免受威胁侵害。
AWS Security Hub
AWS Security Hub es un servicio de administración de la posición de seguridad en la nube (CSPM) que realiza revisiones de las prácticas recomendadas de seguridad, agrega alertas y permite la corrección automatizada.
行动起来
无论行业无论规模,每天都有各种机构在使用 AWS 实现自身业务转型、实现企业愿景。欢迎您联系我们的专家,立即踏上您的 AWS 之旅。