Reflection 推出的 Beam 模型现已可在 Amazon SageMaker JumpStart 上使用,并支持 AWS Trainium
Beam 是总部位于美国的 Reflection 推出的首款开放权重模型,现已可在 Amazon SageMaker AI 的模型中心 Amazon SageMaker JumpStart 上使用。根据 Beam 的说法,该模型处于同类开放权重模型的前沿,在推理、编码以及智能体基准测试方面表现优异。Beam 适用于基于开放权重模型并利用该模型进行开发(而不仅仅是调用)的团队。想要将前沿模型适配到自己领域的客户可以对该模型进行微调、检查和修改其权重,并将其深度嵌入智能体和工作流,同时保持对自身数据和基础设施的完全控制。Beam 可与客户已在 SageMaker AI 中使用的其他模型一起运行,并利用内置于每一项 SageMaker AI 部署的相同控制、审计追踪和监控进行扩展以满足生产需求。此外,Beam 已针对 AWS Trainium3 进行移植和优化,让客户从第一天起就拥有高性能、高性价比的模型部署和扩展方案。Reflection 联合创始人兼首席执行官 Misha Laskin 说:“Reflection 正在提供开发人员可以真正掌控的前沿 AI,而不是只能通过 API 租用的 AI 服务。将 Beam 引入 SageMaker AI 可以让数百万开发人员在其信任的基础设施上使用该能力,这些模型运行于开发人员自己的 AWS 账户,依靠自有数据,并且完全由开发人员掌控。”
基于 Beam 进行开发的团队,所能实现的能力远不止调用 API:根据专有代码和数据对其进行微调,针对自身领域对其进行定制,以及将其接入跨工具的多步骤代理式工作流。在实践中,这意味着团队能够在一个可塑造(而非单纯调用消耗)的模型上,解决实际软件问题、生成和审查代码、自动化运营工作,以及处理高级数学和科学推理。由于 Beam 是基于 Apache 2.0 许可证发布的,因此客户可以检查和自定义模型,还可以在自己的 AWS 账户中运行该模型,这样数据就保持了私密性并受他们掌控,还受到他们已经依赖的 AWS 安全和合规能力的保护。Accenture Federal Services 首席 AI 官 Garrett Berntsen 说:“Beam 这样的高级 AI 模型现已可 Amazon SageMaker 上使用,让我们能够完全在自己的安全环境中运行开放权重前沿 AI,从而能全面洞察权重、数据和管道。在多模型 AI 时代,开放性与托管式基础设施的结合是 AI 生态系统的重要补充。用户可以自由部署和调整高级 AI,根据任务问题进行定制,并搭配客户特定的安全和控制措施,帮助更多机构在其企业中灵活部署高级 AI。”
Beam 最初可在美国东部(弗吉尼亚州北部)和美国东部(俄亥俄州)的 Amazon SageMaker JumpStart 上使用。该模型提供了 BF16、FP8 和 NVFP4 检查点变体,可通过完全托管式 SageMaker JumpStart 端点进行部署。要开始使用,请在 Amazon SageMaker Studio 的 SageMaker JumpStart 中搜索“Beam”,或者直接将其部署在 SageMaker AI 上。 要了解更多信息,请阅读 AWS 机器学习博客:Reflection Beam 简介、SageMaker AI 文档和 SageMaker JumpStart 文档以获取部署指导。