La passerelle AgentCore prend désormais en charge les API Bedrock InvokeModel et les solutions de secours pour les modèles
La passerelle Amazon Bedrock AgentCore prend désormais en charge les API Amazon Bedrock InvokeModel et InvokeModelWithResponseStream sur son point de terminaison d’inférence, ainsi qu’une solution de secours pour les modèles pour le trafic d’inférence. Grâce à la prise en charge d’InvokeModel, vous pouvez diriger votre intégration existante du kit SDK Amazon Bedrock vers la passerelle et contacter n’importe quel fournisseur de modèles via un point de terminaison géré, sans avoir à réécrire le code client pour chaque fournisseur. Avec les solutions de secours pour les modèles, la passerelle achemine automatiquement une demande vers un autre modèle ou fournisseur lorsque la destination principale est limitée, hors capacité ou inaccessible, afin que vos agents restent disponibles sans que chaque client mette en œuvre sa propre logique de nouvelle tentative.
Pour le routage de secours, vous définissez une chaîne ordonnée de destinations alternatives dans une règle de passerelle, ainsi que les conditions qui déclenchent un commutateur, telles que la limitation, les erreurs de serveur ou les délais de réponse. Un disjoncteur intégré ignore les destinations qui sont actuellement en panne, afin que les requêtes atteignent plus rapidement une destination saine et que vous évitiez une latence supplémentaire en cas d’échec des tentatives. Le routage de secours s’effectue en arrière-plan, ce qui signifie que vous envoyez une demande et que vous recevez une réponse, quels que soient les essais et les erreurs internes relatifs à une demande donnée.
Ces fonctionnalités sont disponibles dans toutes les Régions AWS où la passerelle Amazon Bedrock AgentCore est disponible (à l’exception de celles situées dans les régions Chine). Pour en savoir plus, consultez le Guide de l’utilisateur de la passerelle Amazon Bedrock AgentCore.