Workday 使用 Amazon SageMaker 加速生成式人工智能和机器学习产品开发

Workday 提供软件解决方案，帮助客户在人力资源规划、财务规划、供应链管理和其他运营领域做出准确决策并提高绩效。多年来，Workday 一直在投资人工智能，以帮助客户利用人工智能/机器学习驱动的见解充分利用其运营数据。Workday 人工智能负责人 Shane Luke 说道：“我们认为机器学习是 Workday 的核心后端技术。”“我们的目标是开发基于人工智能的解决方案，为我们的客户提供真正的价值。”

由于是为全球客户群提供服务，因此 Workday 需要根据客户的数据驻留要求进行机器学习推理。Luke 说道：“我们的客户非常敏感。”“我们意识到，我们需要一个可以在许多地区运行的联合分布式系统。” 在为机器学习构建后端时，该公司希望免于投资自有的区域私有云。

Workday 的团队发现，他们可以在自己选择的 AWS 区域运行工作负载，这为公司的业务增长提供了支持。Luke 说道：“我们的全球扩张是在 AWS 上完成的。”“对我们来说，这确实是一个关键点。我们可以为欧洲、中东和亚洲的客户提供区域性服务。这对我们来说是一次重大胜利。”

Luke 说道：“使用 AWS，我们的推理请求从最初的一千个扩展到现在的每天数千万个。”“看到这一点，我很有成就感。” 此外，该公司已经能够在几乎不停机的情况下进行扩展。

对于生成式人工智能用例，Workday 使用 Amazon SageMaker 来简化 LLM 模型的搜索、评估、自定义和部署。Workday 人工智能副总裁 Eddie Raffaele 表示：“Workday 一直是 LLM 模型的早期采用者，我们正在积极构建新的生成式人工智能功能，这有助于我们的客户提高生产力、实现成长、留住人才、简化业务流程并推动更好的决策。”“Workday 可以快速利用生成式人工智能的力量，并通过安全和负责任地为客户提供最佳解决方案来实现其价值。”

为了支持其全球团队之间的协作，Workday允许其工程师访问亚马逊 SageMaker Studio，这是一个基于 Web 的集成机器学习开发环境。然后，Workday 的工程师可以使用亚马逊 SageMaker Jumpstart 来比较和评估新的基础模型，这是一个包含基础模型、内置算法和预建机器学习解决方案的机器学习中心。Luke 说道：“对于创建职位描述等必须是高质量的任务，我们使用 Amazon SageMaker 中的模型评估功能，并选择能负责任地反映我们公司优先事项和指标的最佳基础模型。”

Workday的工程团队还采用了亚马逊SageMaker Ground Truth Plus，它在机器学习生命周期中应用人工反馈来创建和评估高质量的模型。该团队已在八个标签用例中使用了该解决方案，包括命名实体识别、实体链接、情绪和主题分析等用例。Luke 说道：“我们需要进行大量的标注和注释工作，以管理我们的 LLM 输出，并在我们保证的 SLA 范围内接收高质量的数据。”“Amazon SageMaker Ground Truth Plus 已成为我们 LLM 的固有组成部分。”

接下来，Workday 的工程师可以使用 Amazon SageMaker Notebook 实例来准备和处理数据以训练其 LLM 模型，从而使用高质量的数据对其 LLM 进行微调。然后，Workday 的工程师部署其模型进行推理，以实现最佳性能和成本，同时减轻运营负担。例如，Workday 使用 Amazon SageMaker 试用了一款封闭式机器学习应用程序，该应用程序可以分析职位描述、发票和合同。在这次试点中，Workday 的机器学习推理延迟减小了五倍。

Workday 还使用 LLM 来提供友好的个性化提醒，帮助其客户按计划实现其项目和组织目标。Luke 说道：“Workday 提供 13,000 多项任务。”“我们已经为租户构建并训练了一个机器学习模型，该模型根据用户的活动提供三项最重要的任务推荐。” 有了这些触手可及的工具，Workday 的客户就可以最大限度地提高运营效率，并利用数据驱动的见解确定项目的优先顺序。

Workday 获得了 Amazon Bedrock 的抢先体验，该服务为使用基础模型构建和扩展生成式 AI 应用程序提供了最简单的方法。Workday 使用 Amazon Bedrock 来促进产品原型设计和测试含有数十亿个参数的机器学习模型。Luke 说道：“我们能够快速进行尝试，确定我们应该投资哪些人工智能功能，并将其展示在客户面前。”

Workday 团队还努力立即为其客户部署新功能，而不是一次在一个地区推出新功能。Luke 说道：“我们对 AWS 给予我们的灵活性感到满意。”“我们可以为客户创造价值并实现横向扩展。”