Meta Llama 3.1 生成式 AI 模型现已在 Amazon SageMaker JumpStart 中推出

发布于: 2024年7月23日

迄今为止最先进、最强大的 Meta Llama 模型 Llama 3.1 现已在机器学习 (ML) 中心 Amazon SageMaker JumpStart 中推出，该中心提供预训练模型和内置算法，可帮助您快速开始使用机器学习。您可以在 SageMaker Studio 中单击几下，或者通过 SageMaker Python SDK 以编程方式部署和使用 Llama 3.1 模型。

由于增加了训练数据和规模，Llama 3.1 模型与以前的版本相比有显著改进。这些模型支持 128K 的上下文长度，这比 Llama 3 增加了 12 万个标记。Llama 3.1 模型的容量是 Llama 3 模型的 16 倍，并在八种语言的多语言对话使用案例中改进了推理能力。这些模型可以从冗长的文本段落中获取更多信息，以做出更明智的决策，并利用更丰富的情境数据来生成更完善的响应。据 Meta 介绍，Llama 3.1 405B 是最大的公开发布的基础模型之一，非常适合用于合成数据生成和模型蒸馏，这两者都可以改进较小的 Llama 模型。使用合成数据微调模型时，必须遵守 Meta 的许可协议。请阅读 EULA，了解更多信息。所有 Llama 3.1 模型在常识、数学、工具使用和多语言翻译方面都提供最先进的功能。

Llama 3.1 模型现已在美国东部（俄亥俄州）、美国西部（俄勒冈州）和美国东部（弗吉尼亚州北部）AWS 区域的 SageMaker JumpStart 中推出。要开始在 SageMaker JumpStart 中使用 Llama 3.1 模型，请参阅文档和博客。