Amazon Bedrock Intelligent Prompt Routing est désormais disponible en version préliminaire
Amazon Bedrock Intelligent Prompt Routing achemine les invites vers différents modèles fondamentaux au sein d'une famille de modèles, ce qui vous permet d'optimiser la qualité des réponses et les coûts. À l'aide de techniques avancées de mise en relation des invites et de compréhension des modèles, le routage rapide intelligent prédit les performances de chaque modèle pour chaque requête et achemine dynamiquement chaque requête vers le modèle qui, selon ses prévisions, est le plus susceptible d’apporter la réponse souhaitée au moindre coût. Les clients peuvent choisir parmi deux routeurs d’invites en version préliminaire, qui acheminent les requêtes soit entre Claude Sonnet 3.5 et Claude Haiku, soit entre Llama 3.1 8B et Llama 3.1 70B.
Amazon Bedrock est un service entièrement géré qui propose un choix de modèles de fondation très performants issus de grandes sociétés d’IA via une API unique. Amazon Bedrock fournit également un large éventail de fonctionnalités dont les clients ont besoin pour créer des applications d'IA générative sécurisées, respectueuses de la confidentialité et dotées de fonctionnalités d’intelligence artificielle responsable. Ces fonctionnalités vous aident à créer des applications personnalisées pour de multiples cas d'utilisation dans différents secteurs, aidant ainsi les organisations à atteindre une croissance durable grâce à l'IA générative tout en garantissant la confiance des clients et la gouvernance des données. Grâce au routage des invites intelligent, Amazon Bedrock peut aider ses clients à créer des applications d'IA générative rentables en combinant plusieurs modèles de fondation afin d'obtenir de meilleures performances à moindre coût par rapport à un modèle de base unique.
Pendant la version préliminaire, les clients paient des tarifs réguliers à la requête pour les modèles vers lesquels les demandes sont acheminées. Pour en savoir plus, consultez notre documentation ainsi que notre blog.