Amazon Bedrock 智能提示路由功能现在提供预览版

发布于: 2024年12月4日

Amazon Bedrock 智能提示路由功能可以将提示路由到模型系列中的不同基础模型，帮助您优化响应质量和成本。智能提示路由使用先进的提示匹配和模型理解技术，可以针对每个请求预测每个模型的性能，并将每个请求以动态方式路由到它预测最有可能以最低成本给出所需响应的模型。客户可以在预览版中从两种提示路由工具中进行选择，这两种工具可以在 Claude Sonnet 3.5 和 Claude Haiku 之间路由请求，也可以在 Llama 3.1 8B 和 Llama 3.1 70B 之间路由请求。

Amazon Bedrock 是一项完全托管式服务，可通过单个 API 提供一系列来自领先 AI 公司的高性能基础模型。Amazon Bedrock 还提供了客户构建内置安全性、隐私性和响应式 AI 功能的生成式 AI 应用程序所需的大量功能。这些功能可帮助您为不同行业的多个应用场景构建量身定制的应用程序，帮助组织在维护客户信任和数据治理的同时，通过生成式人工智能实现可持续增长。借助智能提示路由功能，Amazon Bedrock 可以帮助客户结合基础模型来构建具有成本效益的生成式人工智能应用程序，从而以比单一基础模型更低的成本获得更好的性能。

在预览版中，对于请求被路由到的模型，客户需要按常规按需定价付费。有关更多信息，请参阅我们的文档和博客。