符合
客户的数据驻留要求
扩展到数百万条
推理请求
简化了
工程工作流程
减小 5 倍
ML 推理延迟
概览
Workday Inc. (Workday) 是帮助组织管理其人员和资金的领先解决方案提供商,它高度专注于将工程工作投入到开发内置人工智能 (AI) 功能的产品上。为了帮助将工程师从基础设施维护中解放出来,Workday 采用了 Amazon SageMaker,这是一项完全托管的服务,可帮助其团队为任何用例构建、训练和部署机器学习 (ML) 模型。通过使用 AWS 服务,Workday 的工程团队可以快速迭代复杂的模型,包括大型语言模型 (LLM),并将其部署到生产环境中。
机会 | 使用 AWS 区域满足 Workday 全球客户的数据驻留要求
Workday 提供软件解决方案,帮助客户在人力资源规划、财务规划、供应链管理和其他运营领域做出准确决策并提高绩效。多年来,Workday 一直在投资人工智能,以帮助客户利用人工智能/机器学习驱动的见解充分利用其运营数据。Workday 人工智能负责人 Shane Luke 说道:“我们认为机器学习是 Workday 的核心后端技术。”“我们的目标是开发基于人工智能的解决方案,为我们的客户提供真正的价值。”
由于是为全球客户群提供服务,因此 Workday 需要根据客户的数据驻留要求进行机器学习推理。Luke 说道:“我们的客户非常敏感。”“我们意识到,我们需要一个可以在许多地区运行的联合分布式系统。” 在为机器学习构建后端时,该公司希望免于投资自有的区域私有云。
Workday 的团队发现,他们可以在自己选择的 AWS 区域运行工作负载,这为公司的业务增长提供了支持。Luke 说道:“我们的全球扩张是在 AWS 上完成的。”“对我们来说,这确实是一个关键点。我们可以为欧洲、中东和亚洲的客户提供区域性服务。这对我们来说是一次重大胜利。”
Luke 说道:“使用 AWS,我们的推理请求从最初的一千个扩展到现在的每天数千万个。”“看到这一点,我很有成就感。” 此外,该公司已经能够在几乎不停机的情况下进行扩展。
使用 AWS,我们的推理请求从最初的一千个扩展到现在的每天数千万个。看到这一点,我很有成就感。”
Shane Luke
Workday 人工智能负责人
解决方案 | 使用 Amazon SageMaker 将推理延迟减小五倍
对于生成式人工智能用例,Workday 使用 Amazon SageMaker 来简化 LLM 模型的搜索、评估、自定义和部署。Workday 人工智能副总裁 Eddie Raffaele 表示:“Workday 一直是 LLM 模型的早期采用者,我们正在积极构建新的生成式人工智能功能,这有助于我们的客户提高生产力、实现成长、留住人才、简化业务流程并推动更好的决策。”“Workday 可以快速利用生成式人工智能的力量,并通过安全和负责任地为客户提供最佳解决方案来实现其价值。”
为了支持全球团队之间的协作,Workday 使其工程师能够访问 Amazon SageMaker Studio,这是一个基于 Web 的集成机器学习开发环境。然后,Workday 的工程师可以使用 Amazon SageMaker Jumpstart——一个包含基础模型、内置算法和预建机器学习解决方案的机器学习中心,比较和评估新的基础模型。Luke 说道:“对于创建职位描述等必须是高质量的任务,我们使用 Amazon SageMaker 中的模型评估功能,并选择能负责任地反映我们公司优先事项和指标的最佳基础模型。”
Workday 的工程团队还采用了 Amazon SageMaker Ground Truth Plus,它在机器学习生命周期中应用人工反馈,以创建和评估高质量的模型。该团队已在八个标签用例中使用了该解决方案,包括命名实体识别、实体链接、情绪和主题分析等用例。Luke 说道:“我们需要进行大量的标注和注释工作,以管理我们的 LLM 输出,并在我们保证的 SLA 范围内接收高质量的数据。”“Amazon SageMaker Ground Truth Plus 已成为我们 LLM 的固有组成部分。”
接下来,Workday 的工程师可以使用 Amazon SageMaker Notebook 实例来准备和处理数据以训练其 LLM 模型,从而使用高质量的数据对其 LLM 进行微调。然后,Workday 的工程师部署其模型进行推理,以实现最佳性能和成本,同时减轻运营负担。例如,Workday 使用 Amazon SageMaker 试用了一款封闭式机器学习应用程序,该应用程序可以分析职位描述、发票和合同。在这次试点中,Workday 的机器学习推理延迟减小了五倍。
Workday 还使用 LLM 来提供友好的个性化提醒,帮助其客户按计划实现其项目和组织目标。Luke 说道:“Workday 提供 13,000 多项任务。”“我们已经为租户构建并训练了一个机器学习模型,该模型根据用户的活动提供三项最重要的任务推荐。” 有了这些触手可及的工具,Workday 的客户就可以最大限度地提高运营效率,并利用数据驱动的见解确定项目的优先顺序。
成果 | 使用 Amazon Bedrock 尝试生成式人工智能
Workday 抢先体验了 Amazon Bedrock,该服务为使用基础模型构建和扩展生成式人工智能应用程序提供了最简单的方法。Workday 使用 Amazon Bedrock 来促进产品原型设计和测试含有数十亿个参数的机器学习模型。Luke 说道:“我们能够快速进行尝试,确定我们应该投资哪些人工智能功能,并将其展示在客户面前。”
Workday 团队还努力立即为其客户部署新功能,而不是一次在一个地区推出新功能。Luke 说道:“我们对 AWS 给予我们的灵活性感到满意。”“我们可以为客户创造价值并实现横向扩展。”
关于 Workday
全球有 10,000 多家组织依靠 Workday 来管理其最宝贵的资产——人员和资金。Workday 为客户提供高效的财务和人力资源解决方案,帮助促进决策和工作绩效。
使用的 AWS 服务
Amazon SageMaker
Amazon SageMaker 是一项完全托管的服务,它汇集了大量工具,可为任何使用案例提供高性能、低成本的机器学习 (ML)。
Amazon SageMaker Jumpstart
Amazon SageMaker JumpStart 是一个机器学习(ML)中心,可以帮助您加速 ML 之旅。借助 SageMaker JumpStart,您可以根据预定义的质量和责任指标快速评估、比较和选择 FM,以执行文章摘要和图像生成等任务。
Amazon Sagemaker Ground Truth
Amazon SageMaker Ground Truth 提供一套最全面的“人机回环”功能,使您能够在机器学习生命周期中利用人类反馈的力量来提高模型的准确性和相关性。
Amazon Bedrock
Amazon Bedrock 是一项完全托管的服务,通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型(FM),以及通过安全、隐私、负责任的人工智能构建生成式人工智能应用程序所需的一系列广泛功能。
更多生成式人工智能客户案例
行动起来
无论行业无论规模,每天都有各种机构在使用 AWS 实现自身业务转型、实现企业愿景。欢迎您联系我们的专家,立即踏上您的 AWS 之旅。