亚马逊AWS官方博客

Mistral AI 模型即将登陆 Amazon Bedrock

Mistral AI 是一家总部位于法国的 AI 公司,其使命是将公开可用的模型提升至最先进的性能水平。他们专注于构建快速而安全的大型语言模型(LLM),此类模型可用于从聊天机器人到代码生成等各种任务。

我们很高兴地宣布,两种高性能 Mistral AI 模型,即 Mistral 7B 和 Mixtral 8x7B,很快将在 Amazon Bedrock 上推出。AWS 将 Mistral AI 引入 Amazon Bedrock,作为我们的第 7 家基础模型提供商,与 AI21 LabsAnthropicCohereMetaStability AIAmazon 这些领先的 AI 公司并肩。借助这两种 Mistral AI 模型,您将可以为您的使用案例灵活选择最优的高性能 LLM,在 Amazon Bedrock 上构建并扩展生成式人工智能应用程序。

Mistral AI 模型概述
以下是对这两种备受期待的 Mistral AI 模型的简要概述:

  • Mistral 7B 是 Mistral AI 推出的首个基础模型,支持英语文本生成任务并具备自然编码能力。它为实现低延迟进行过优化,并且相对其规模,该模型对内存的要求较低,可提供高吞吐量。该模型功能强大,支持从文本摘要和分类到文本完善和代码补全等多种使用案例。
  • Mixtral 8x7B 是一种受欢迎的优质稀疏专家混合(MoE)模型,非常适用于文本摘要、问题解答、文本分类、文本完善和代码补全。

选择合适的基础模型是构建成功应用程序的关键。让我们来看一些亮点,了解为什么 Mistral AI 可能适合您的使用案例:

  • 成本与性能平衡 – Mistral AI 模型的突出亮点之一是,在成本和性能之间实现了卓越的平衡。采用稀疏 MoE 使这些模型变得高效、经济且可扩展,同时还能控制成本。
  • 加快推理速度 – Mistral AI 模型具有令人印象深刻的推理速度,并为实现低延迟进行过优化。相对于它们的规模,这些模型对内存要求较低,并且可提供高吞吐量。当您想要扩展生产使用案例时,此特点显得尤为重要。
  • 透明而可信赖 – Mistral AI 模型透明且可自定义。这使得组织能够满足严格的监管要求。
  • 面向广泛用户 – Mistral AI 模型可供所有用户使用。这有助于任何规模的组织将生成式人工智能功能集成到他们的应用程序当中。

即将推出
Mistral AI 的公开模型即将登陆 Amazon Bedrock。像往常一样,订阅这个博客,这样您就会成为第一个知道这些模型何时在 Amazon Bedrock 上推出的人。

了解详情

请随时关注,
Donnie