Discover Financial Services 在 AWS 上构建生成式人工智能解决方案，以加快决策制定并缩短上市时间

金融机构需要在情况发生变化时迅速做出响应，客户也希望这些机构能够进行准确的分析和快速的响应。数字银行 Discover Financial Services（Discover）希望通过加快分析、洞察和决策来增强其客户服务。该公司使用 Amazon Web Services（AWS）创建了一个数据科学解决方案，供其科学家和分析师用于处理机器学习（ML）和生成式人工智能（AI）工作负载。该解决方案有助于加快上市速度、降低风险并改善客户体验。

Discover 在 Amazon EC2 上构建了一个分析工作台和一个统一的数据科学工作台，其数据科学家可以使用这些工作台来运行或处理 AI/ML 应用程序、通过大量样本（需要高达 6TB 的内存）来训练模型，并使用核心 GPU 在云中实现高性能计算（HPC）。“我们为科学家提供了可按需扩展 HPC 的云级数据仓库，并加快了分析创新速度。”Gupta 说。

Discover 使用 Amazon EC2 P3 实例，通过强大的 GPU 为 ML 和 HPC 应用程序提速，以执行需要多 GPU 设置的任务。同时，该公司还使用 Amazon EC2 P4 实例，为云端 ML 和 HPC 应用程序提供高性能。该团队投入了大量时间来优化架构并实施最佳实践，以加速分析并更快地提供见解。“我们希望确保优化基础设施的运行时间，特别是计算的运行时间，”Discover 数据与 AI 平台工程总监 Will Hinton 说道。

例如，该团队使用不同的模型和代码进行了基准测试，以评测处理 20000 行数据（从客户服务座席与客户之间记录的互动转录生成）的速度。使用 16 个 CPU 时，处理耗时 6.5 至 7 小时，而使用单 GPU 配置则只需 23 分钟。使用多个 GPU 可将处理时间缩短至 4 分钟，但成本也相应增加。这有助于 Discover 团队根据使用案例需求和成本选择不同的 GPU 配置。

Discover 使用 Amazon Simple Storage Service（Amazon S3）— 可从任意位置检索任意数量的数据的内置对象存储服务，来存储模型构件。为了与不同的工程团队和业务部门共享这些构件和数据，Discover 使用 Amazon Elastic File System（Amazon EFS）— 一种提供无服务器、完全弹性存储的服务。该解决方案连接到 Discover 的可观测性工具、数据仓库和源代码存储库。

该解决方案易于使用，旨在为数据科学家提供自助服务。“数据科学家可以访问解决方案自动化工具，选择模板，然后根据他们的要求选择计算和 Amazon EC2 实例：多 GPU、单 GPU 或内存密集型应用程序。”Gupta 说，“他们只需选择、点击，即可完成操作。”

该解决方案帮助 Discover 缩短了获得见解的时间。通过使用特征嵌入，团队将产品上市时间从数小时缩短至数分钟。利用高计算能力进行并行模型训练，将 3000 万条记录的处理时间从数天缩短至数小时。对于情绪分析（例如，分析客户在与客户服务座席交谈后是否满意），该解决方案将包含 57000 条记录的数据集的处理时间从数小时缩短至几分钟。

Discover 团队将该解决方案应用于管理银行的“勿扰”模型。对于不希望银行代表出于营销等目的联系他们的客户，团队创建了一个模型来对这类客户进行分类。该解决方案近乎实时地对这些客户进行分类，并将相关数据提供给客户服务座席。因此，座席可以识别出不应联系的客户，从而提高客户满意度。

Discover 执行副总裁兼首席信息官 Jason Strle 说：“团队在适应和调整速度与风险方面做得非常出色，当生成式人工智能在有人参与的场景中发挥作用时，可以降低风险并加快交付速度。这与生成式人工智能解决方案自主与客户互动或做出业务决策的场景形成鲜明对比。在这些情况下，需要采取更多风险措施才能投入生产。”

Discover 团队现在想要利用 Amazon S3 来添加基于事件的激活功能，以实现更深层次的自动化。目前，该公司采用调度器来安排每日任务，如识别和分类客户等。此外，Discover 还希望通过基于事件的激活和排队机制，将计算能力重新用于其他生成式人工智能应用场景。这将有助于进一步降低其生成式人工智能使用案例的计算成本。

“这一解决方案基于 GPU 驱动的 Amazon EC2 实例，正在帮助我们降低风险并改善客户体验，”Gupta 说。