关键指标
6
部署时间从几个月缩短到 3-5 天+3200
Amazon SageMaker Studio 上的用户数概览
巴西最大的私营银行 Itaú Unibanco(Itaú),需要为超过 3200 名机器学习(ML)用户,提高其机器学习基础设施的速度、灵活性和可扩展性。该银行需要为其本地基础设施订购服务器并完成配置任务,然后才能向数据科学团队提供解决方案。这一过程耗费了数月时间,同时,购买服务器、运营和维护数据中心也产生了高昂成本。
2020 年,Itaú 选择 Amazon Web Services(AWS)作为战略云提供商,并开始基于 AWS 改造其基础设施。为了使数据科学家能够更早使用机器学习模型,Itaú 使用了 Amazon SageMaker Studio,这是一个集成式开发环境,提供了基于 Web 的单一可视化界面,可调用执行所有机器学习开发步骤所需的专用工具。该公司认为 Amazon SageMaker Studio 是其解决方案的不二之选。借助新的解决方案,Itaú 将模型开发时间从 6 个月缩短至 5 天,通过标准化提高了员工的工作效率,并降低了成本。
关于 Itaú Unibanco
Itaú 是巴西最大的私营银行,提供全方位的银行业务,包括企业银行、投资银行和零售银行投资。该公司于 2008 年由 Banco Itaú 和 Unibanco 合并而成。
机会 | 使用 Amazon SageMaker Studio 帮助 Itaú 高效普及机器学习技术
Itaü 为巴西、拉丁美洲和全球其他 18 个国家/地区的客户提供银行服务。其拥有超过 9.57 万名员工,其中约 1.5 万名员工在 IT 部门工作。Itaü 最初的基础设施完全位于本地,这导致其必须面对高昂的成本和缓慢的开发时间。受物理空间和硬件的限制,其本地基础设施也缺乏可扩展性。在该银行的数据小组中,数据科学家需要等待长达 6 个月的时间,才能获得内存和资源,而该公司的部署等待名单上有上百个机器学习模型。
为了克服这些挑战,Itaü 决定将其部分业务迁移到云端,并选择使用 AWS。Itaú 机器学习工程经理 Diego Nogare 表示:“我们制定了一项同时提高业务竞争力和效率的战略,这正是促使我们选择从本地迁移到云端的原因之一。”
大约在迁移开始后的第 6 个月,Itaú 选择了 Amazon SageMaker,这是一套灵活的云原生机器学习解决方案,利用完全托管的基础设施、工具和工作流程,可针对任何使用案例提供构建、训练并部署机器学习模型的服务。“我们正在使用 AWS 实现软件和数据的转型,因此需要一套在 AWS 上完美运行的解决方案。”Itaú 数据科学主管 Vitor Azeka 说,“Amazon SageMaker 是不二之选。” 截至 2024 年,该公司大约 60% 的软件和数据已完成现代化改造,可在云端运行。
解决方案 | 使用 AWS 将模型部署时间从 6 个月缩短到 5 天
Itaú 使用 AWS 为其数据科学家构建了完整的解决方案。首先,该公司使用 AWS Glue 收集数据。AWS Glue 是一种无服务器数据集成服务,使用户可以更轻松地发现、准备、移动和集成多个来源的数据,用于分析、机器学习和应用程序开发。然后,他们利用这些数据,使用 Amazon SageMaker Studio 启动实验。Itaü 使用 Amazon SageMaker Studio 作为灵活的开发解决方案,供其内部数据科学家进行实验。接下来,他们使用其他 Amazon SageMaker 工具(例如端点、批量转换和异步推理)部署机器学习模型。该公司使用 Amazon CloudWatch 监控模型。Amazon CloudWatch 会在自动化控制面板中收集近实时日志、指标和事件数据,并以可视化方式展示,从而简化基础设施和应用程序的维护。通过结合使用所有这些 AWS 服务,数据科学家能够满足其自身需求。
2021 年 8 月,Itaú 交付了首个使用 Amazon SageMaker Studio 作为集成开发环境的解决方案,截至 2023 年 4 月,该 AWS 服务已拥有超过 3200 名独立用户,其中包括大约 350 名数据科学家。
Itaü 的机器学习模型部署等待清单已经消失。在某些情况下,使用 Amazon SageMaker Studio,Itaü 得以将部署时间从长达 6 个月缩短至 3-5 天。部署时间的缩短提高了公司进入市场的速度。“使用 Amazon SageMaker Studio 时,我们可以运行管道,并将解决方案快速交付给客户。” Nogare 说,“从而改善客户体验。” 与其旧的本地基础设施相比,Itaü 还节省了成本。
自 2021 年 11 月以来,Itaü 每周与 AWS 团队举行会议,讨论架构、安全性及其路线图。“AWS 的支持对于实现我们今天的成果至关重要。” Nogare 说,“每当我们发现解决方案出现问题,或存在治理需求时,AWS 团队都会为我们提供支持,直到问题解决。” 一些治理需求可以通过 Amazon SageMaker Studio 得到满足。当该公司运行管道,向用户提供 Amazon SageMaker Studio 时,治理和安全问题已经得到解决。
其解决方案的标准化意味着 Itaü 可以更轻松地引入新员工,并跨部门调动数据科学家。由于一切都是虚拟的,更新变得更加容易,公司不再需要依赖物理机器。使用 AWS,数据科学家的管道得到了整合,因此可以在同一个数据管道中对机器学习模型进行部署和监控。这进一步提高了数据科学家的效率。
“最终,我们可以更快地交付。”Itaú 杰出数据科学家 Rodrigo Fernandes Mello 说,“我们已经改善了标准化和集成度,并且可以利用 AWS 继续做出改进。”
成果 | 使用 AWS 实现标准化以提高效率
Itaü 希望继续提高其标准化水平。下一个针对其数据科学家的内部标准化步骤,是让更多员工使用其 IARA 解决方案,该解决方案基于 AWS 并使用多种服务,包括 Amazon SageMaker Studio。Itaú 将继续使用 Amazon SageMaker 内部的工具开发其管道,例如,可用于大规模创建、自动化运行和管理机器学习工作流程的 Amazon SageMaker Pipelines。Itaú 正在进行测试,以使用 AWS 工具提高其管道的标准化程度。
“这个项目帮助数据科学家团队大幅提升了效率。”Azeka 说,“使用 Amazon SageMaker Studio,我们可以在发布其他内容的同时测试新事物,还可以讨论使用大型语言模型的先进解决方案。这让我们的数据科学家为能在 Itaú 工作而感到自豪。”
我们可以更快地交付。我们已经改善了标准化和集成度,并且可以利用 AWS 继续做出改进。
Rodrigo Fernandes Mello
Itaú 杰出数据科学家开始使用
找到今天要查找的内容了吗?
请提供您的意见,以便我们改进网页内容的质量。