Meta Llama 3.1 生成式 AI 模型现已在 Amazon Bedrock 中推出

发布于: 2024年7月23日

迄今为止最先进的 Meta Llama 模型 Llama 3.1 现已在 Amazon Bedrock 中推出。Amazon Bedrock 提供了一种使用 Llama 构建生成式 AI 应用程序的一站式方式。Llama 3.1 模型是 8B、70B 和 405B 参数大小模型的集合，为您的生成式 AI 应用程序提供新功能。

所有 Llama 3.1 模型相较于之前的版本都表现出显著的改进。这些模型支持 128K 的上下文长度，容量是 Llama 3 的 16 倍，并在八种语言的多语言对话使用案例中改进了推理能力。这些模型可以从冗长的文本中获取更多信息，以做出更明智的决策，并利用更丰富的情境数据来生成更细微、更完善的响应。据 Meta 介绍，Llama 3.1 405B 是最优秀且最大的公开发布的基础模型之一，非常适合用于合成数据生成和模型蒸馏。此外，Llama 3.1 模型还在常识、数学、工具使用和多语言翻译方面提供最先进的功能。

Meta 的 Llama 3.1 模型现已在美国西部（俄勒冈州）区域的 Amazon Bedrock 中推出。要了解更多信息，请阅读 AWS 新闻发布博客、Amazon Bedrock 中的 Llama 产品页面和文档。要开始在 Amazon Bedrock 中使用 Llama 3.1，请访问 Amazon Bedrock 控制台。要申请访问 Amazon Bedrock 中的 Llama 3.1 405B 预览版，请联系您的 AWS 账户团队或通过 AWS 管理控制台提交支持工单。创建支持工单时，请在“服务”中选择“Bedrock”，在“类别”中选择“模型”。