将聊天机器人成本
降低了 66%
生成了
4000 行代码
实现了 46% 的
接受率
扫描了 6640 行
Java 代码
概述
在一年多的时间里,全球支付解决方案提供商 BPC 一直在试用生成人工智能(AI),以提高他们内部工作流的效率。BPC 在受到严格监管的行业中运营,因此在扩展他们的技术路线图的同时,还必须保护客户的数据。为了维护云端的数据主权,BPC 通过 Amazon Web Services(AWS)采用由人工智能提供支持的解决方案。
自从开启他们的人工智能之旅以来,BPC 在多个部门中试用了人工智能,最终为他们的客户服务座席和开发人员推出了两款生成式人工智能解决方案。通过在员工队伍中实施由人工智能提供支持的解决方案,BPC 改善了他们的客户支持并加快了新功能和更新的发布。该公司会继续利用生成式人工智能提高他们的运营效率和改善客户体验。

机会 | BPC 使用 Amazon Bedrock 构建智能客户支持聊天机器人
BPC 总部位于瑞士,是支付解决方案领域的全球领导者,正在为 120 多个国家/地区的 450 多家企业提供银行支付和电子商务交易支持。自 2014 年以来,该公司一直在使用 AWS。“我们不断创新以保持竞争力,”BPC 的 DevOps 团队负责人 Artem Zhukov 表示。“在 BPC,我们的目标是帮助客户推动创新并提供未来的支付体验。为了支持这一目标,我们开始探索如何实施人工智能功能,以使我们的员工和客户都能受益。”
为了改善客户体验,BPC 开始开发一款可以回复客户询问的智能聊天机器人。“我们利用生成式人工智能提高微妙的运营效率,”BPC 的工程经理 Eugene Tochilkin 说道。“我们的目标是开发一款聊天机器人,以供我们的客户和客户支持团队使用。例如,座席可以将客户的请求输入到聊天机器人中,并在审查之后将生成的回复发给客户。” 这个聊天机器人经过训练,具有很高的精度,因此可以减少客户支持座席的工作量。
为了实现最佳性能和深度人工智能功能,BPC 使用大型语言模型(LLM)作为他们的聊天机器人的核心。为了深化他们的解决方案的功能,该公司还使用了检索增强生成,这项技术可以从 BPC 的数据来源中获取数据并丰富提示,以提供更相关、更准确的回复。
BPC 将他们的数据存储在 AWS 上,并使用 Amazon Bedrock 在不牺牲安全性的情况下释放了全部潜力。Amazon Bedrock 是一项完全托管式服务,使用基础模型构建和扩展生成式人工智能应用程序。“为了确保最佳性能,我们需要一个具有高级安全功能的环境,”BPC 的运营主管 Peter Ilosvai 表示。“使用 Amazon Bedrock,我们可以快速解决问题并确定中断的原因。”
BPC 在 Amazon Bedrock 中评估了几种基础模型。“我们的提示非常丰富,”Tochilkin 说道。“我们在提示中加入了大量的信息,以生成极具相关性的答复,但这可能导致成本增加。” 为了在成本与性能之间取得平衡,该公司使用了 Anthropic 的 Claude 3 Haiku,这是他们的智能类别中最快速、最经济高效的模型之一。(参见图 1。)“在 Claude 3 Haiku 发布之后,我们立即更改了引擎的设置以支持它,”Tochilkin 表示。随后,与其他模型相比,BPC 将他们的聊天机器人成本降低了 66%。
在将他们的聊天机器人部署到生产环境之后,BPC 将它作为一个更名后的解决方案提供给客户。“我们获得了非常积极的反馈,”Tochilkin 说道。“我们的客户可以在他们自己的沙盒环境中部署聊天机器人,并使用它进行营销和广告。”


“使用 Amazon Bedrock,我们可以快速解决问题并确定中断的原因。”
Eugene Tochilkin
BPC 工程经理
解决方案 | 使用 Amazon Q 开发者版生成的代码实现了高达 46% 的接受率
接下来,BPC 专注于测试 Amazon Q 开发者版(一款由生成式人工智能提供支持的软件开发助手),以简化他们的开发人员的工作流。在使用此解决方案之前,该公司的一些开发人员使用了另一款人工智能助手,以帮助他们调试代码。但是质量不算太好,无法在整个公司内采用。根据工具供应商的说法,这款工具的平均接受率仅为 30%。
BPC 开始与八名开发人员一起试用 Amazon Q 开发者版。在 4 个月内,他们的开发人员生成了 4000 多行代码,接受率高达 46%。该小组还使用这项服务对 6640 行 Java 代码执行了安全扫描,以帮助提高开发人员的工作效率。“它显著减少了我们在简单代码和重复性任务上花费的时间,”BPC 的开发团队负责人 Stanislav Krainov 表示。“现在,除了我们的安全状况以外,我们还可以专注于更加智能、更具挑战性和更高质量的代码。” 受到此次体验结果的鼓舞,BPC 计划使用 Amazon Q 开发者版帮助自动重构该公司的代码库并调试应用程序逻辑问题。
成果 | 在 AWS 上扩展基础设施和开拓新市场
BPC 计划分阶段向他们的所有 200 名开发人员部署 Amazon Q 开发者版。为了进一步提高工作效率,该公司的工程师们正在努力使用 Amazon SageMaker 构建自己的自定义 LLM。使用 Amazon SageMaker,开发人员可以通过完全托管式基础设施、工具和工作流为几乎任何使用案例构建、训练和部署机器学习模型。BPC 还计划在新一代基础模型发布之后对它们进行测试,这样有助于进一步提高他们的聊天机器人性能。
此外,BPC 已经在使用 Amazon Connect,它使联络中心的座席能够从第一天起就提供卓越的客户体验。为了通过生成式人工智能进一步改善客户服务,该公司计划使用 Amazon Q 的 Connect 进行概念验证,它为座席提供了实时解决问题所需的回复、操作和信息。
在迎来稳定的业务增长之后,BPC 正在努力开拓中东和北非市场。为了支持这一全球扩张,该公司正在试用 AWS Outposts,各个组织可以使用这项服务在本地运行 AWS 基础设施和服务,以获得真正一致的混合体验。“AWS 帮助我们运营业务和实现增长,”Tochilkin 说道。“我们认识到了 AWS 技术和人工智能服务的价值。”
关于 BPC
BPC 利用快速、安全、便捷的支付处理来塑造交易。BPC 专注于技术和客户服务,并帮助 120 个国家/地区的 450 多个客户为银行、支付、商业和交通等行业提供创新型解决方案。
使用的 AWS 服务
Amazon Bedrock
Amazon Bedrock 是一项完全托管式服务,提供单个 API 来访问并使用来自领先人工智能公司的高性能基础模型(FM)。
Amazon Q 开发者版
功能最强大的生成式人工智能助手,可加速软件开发并利用公司的内部数据。
了解更多 »
Amazon SageMaker
Amazon SageMaker 建立在 Amazon 二十年来开发现实世界 ML 应用程序的经验之上,这些应用程序包括产品推荐、个性化、智能购物、机器人技术和语音辅助设备。
了解更多 »
Amazon Outposts
AWS Outposts 是一系列完全托管式解决方案,可为几乎任何本地或边缘站点提供 AWS 基础设施和服务,以获得真正一致的混合体验。
了解详情 »
行动起来
无论行业无论规模,每天都有各种机构在使用 AWS 实现自身业务转型、实现企业愿景。欢迎您联系我们的专家,立即踏上您的 AWS 之旅。