2024 年

Discover Financial Services 在 AWS 上构建生成式人工智能解决方案，以加快决策制定并缩短上市时间

了解数字银行 Discover Financial Services 如何使用 AWS 服务构建生成式人工智能/机器学习解决方案，以改善决策制定并提升客户服务。

优势

100%

样本量而不是 20%，以获得更好的模型精度和结果

35%

降低工程和平台成本

概览

金融机构需要在情况发生变化时迅速做出响应，客户也希望这些机构能够进行准确的分析和快速的响应。数字银行 Discover Financial Services（Discover）希望通过加快分析、洞察和决策来增强其客户服务。该公司使用 Amazon Web Services（AWS）创建了一个数据科学解决方案，供其科学家和分析师用于处理机器学习（ML）和生成式人工智能（AI）工作负载。该解决方案有助于加快上市速度、降低风险并改善客户体验。

Software developers discussing programming code and planning how to create innovative software

关于 Discover Financial Services

Discover Financial Services 是一家领先的数字银行和支付服务公司。该公司成立于 1985 年，总部位于芝加哥北部，以帮助人们更明智地消费、更好地管理债务和增加储蓄为使命。

机会 | 创建具有生成式 AI 功能的数据科学解决方案，以缩短上市时间

总部位于芝加哥的数字银行和支付服务公司 Discover 旨在帮助人们更明智地消费，更有效地管理债务并积累更多储蓄。在其包括决策制定、信用评估以及投资组合风险管理在内的各项业务中，Discover 面临着一项挑战，那就是如何确保足够快速地推出其服务。“我们希望更快地做出决策、更快地获得见解，这样我们就可以更快地响应客户需求，”Discover 的 AI/ML 专家平台工程师 Rahul Gupta 说道。

该公司希望使用生成式人工智能和机器学习来分析数据并生成见解，同时还在寻求方法，以求加快大型语言模型的训练速度，并以最佳方式使用计算资源，从而缩短产品上市时间。Discover 决定在亚马逊弹性计算云 (Amazon EC2) 上运行其数据科学解决方案，该云几乎可以为任何工作负载提供安全且可调整的计算容量。

亚马逊 EC2 是 AWS 人工智能基础设施的一部分，有助于加速 AI 创新。企业和开发人员可以利用这一全面、安全且性价比高的基础设施，借助广泛而深入的 AI 和 ML 功能（涵盖计算、网络和存储）来构建 AI 应用程序。

解决方案 | 使用 Amazon EC2 创建统一的数据科学解决方案并将上市时间从数小时缩短到几分钟

Discover 在 Amazon EC2 上构建了一个分析工作台和一个统一的数据科学工作台，其数据科学家可以使用这些工作台来运行或处理 AI/ML 应用程序、通过大量样本（需要高达 6TB 的内存）来训练模型，并使用核心 GPU 在云中实现高性能计算（HPC）。“我们为科学家提供了可按需扩展 HPC 的云级数据仓库，并加快了分析创新速度。”Gupta 说。

Discover 使用亚马逊 EC2 P3 实例使用强大的 GPU 加速机器学习和 HPC 应用程序，以执行需要多 GPU 设置的任务。它还使用亚马逊 EC2 P4 实例为云中的机器学习和 HPC 应用程序提供高性能。该团队投入了大量时间来优化架构并实施最佳实践，以加速分析并更快地提供见解。“我们希望确保优化基础设施的运行时间，特别是计算的运行时间，”Discover 数据与 AI 平台工程总监 Will Hinton 说道。

例如，该团队使用不同的模型和代码进行了基准测试，以评测处理 20000 行数据（从客户服务座席与客户之间记录的互动转录生成）的速度。使用 16 个 CPU 时，处理耗时 6.5 至 7 小时，而使用单 GPU 配置则只需 23 分钟。使用多个 GPU 可将处理时间缩短至 4 分钟，但成本也相应增加。这有助于 Discover 团队根据使用案例需求和成本选择不同的 GPU 配置。

Discover 使用 Amazon Simple Storage Service（Amazon S3）— 可从任意位置检索任意数量的数据的内置对象存储服务，来存储模型构件。为了与不同的工程团队和业务部门共享这些工件和数据，Discover 使用了亚马逊弹性文件系统 (Amazon EFS)，该系统提供无服务器、完全弹性的存储。该解决方案连接到 Discover 的可观测性工具、数据仓库和源代码存储库。

该解决方案易于使用，旨在为数据科学家提供自助服务。“数据科学家可以访问解决方案自动化工具，选择模板，然后根据他们的要求选择计算和 Amazon EC2 实例：多 GPU、单 GPU 或内存密集型应用程序。”Gupta 说，“他们只需选择、点击，即可完成操作。”

该解决方案帮助 Discover 缩短了获得见解的时间。通过使用特征嵌入，团队将产品上市时间从数小时缩短至数分钟。利用高计算能力进行并行模型训练，将 3000 万条记录的处理时间从数天缩短至数小时。对于情绪分析（例如，分析客户在与客户服务座席交谈后是否满意），该解决方案将包含 57000 条记录的数据集的处理时间从数小时缩短至几分钟。

Discover 团队将该解决方案应用于管理银行的“勿扰”模型。对于不希望银行代表出于营销等目的联系他们的客户，团队创建了一个模型来对这类客户进行分类。该解决方案近乎实时地对这些客户进行分类，并将相关数据提供给客户服务座席。因此，座席可以识别出不应联系的客户，从而提高客户满意度。

Discover 执行副总裁兼首席信息官 Jason Strle 说：“团队在适应和调整速度与风险方面做得非常出色，当生成式人工智能在有人参与的场景中发挥作用时，可以降低风险并加快交付速度。这与生成式人工智能解决方案自主与客户互动或做出业务决策的场景形成鲜明对比。在这些情况下，需要采取更多风险措施才能投入生产。”

成果 | 扩展解决方案以包括基于事件的触发器，以进一步降低成本

Discover 团队现在想要利用 Amazon S3 来添加基于事件的激活功能，以实现更深层次的自动化。目前，该公司采用调度器来安排每日任务，如识别和分类客户等。此外，Discover 还希望通过基于事件的激活和排队机制，将计算能力重新用于其他生成式人工智能应用场景。这将有助于进一步降低其生成式人工智能使用案例的计算成本。

“这一解决方案基于 GPU 驱动的 Amazon EC2 实例，正在帮助我们降低风险并改善客户体验，”Gupta 说。