发布于: Jul 18, 2023
从今天开始，Amazon SageMaker JumpStart 将提供 Meta 的 Llama 2 基础模型，这是一个机器学习 (ML) 中心，提供预训练模型、内置算法和预构建解决方案，能帮助您快速开始使用机器学习。您可以在 SageMaker Studio 中单击几下或者通过 SageMaker Python SDK 以编程方式部署和使用 Llama 2 基础模型。
Llama 2 是一种自回归语言模型，它使用经过优化的转换器架构。它有多种参数大小（7B、13B 和 70B）以及经过预训练和微调的变体。经过微调的版本使用监督微调 (SFT) 和人类反馈强化学习 (RLHF) 来生成更相关的响应。开发人员可以利用 Meta 的《负责任使用指南》，其中概述了负责任地构建 GenAI 产品堆栈每一层的最佳实践，并说明了消除与 LLM 商业使用场景相关的风险的重要性。
现在，您可以通过 SageMaker Pipelines、SageMaker Debugger 或容器日志等 SageMaker 功能，获得 Llama 2 性能和 MLOps 控制的综合优势。该模型将部署在您的 VPC 控制下的 AWS 安全环境中，有助于确保数据安全。Llama 2 旨在用于英语商业和研究用途。经过微调的模型适用于类似助手的聊天，而预训练的模型则可适用于各种自然语言生成任务。