Publié le: Nov 29, 2023
Vous pouvez désormais utiliser Amazon Bedrock pour traiter les demandes par lots afin d'obtenir des réponses aux fins de l'évaluation des modèles, de l'expérimentation et du traitement hors ligne.
L'utilisation de l'API par lots permet d'exécuter plus efficacement l'inférence avec les modèles de fondation (FM). Cela vous permet également d'agréger les réponses et de les analyser par lots.
Le traitement par lots est disponible en version préliminaire dans les régions AWS USA Est (Virginie du Nord), USA Ouest (Oregon), Asie-Pacifique (Singapour), Asie-Pacifique (Tokyo) et Europe (Francfort).
Pour en savoir plus sur l'inférence par lots dans Amazon Bedrock, consultez la référence de l'API Amazon Bedrock. La tarification du mode par lots est identique à celle du mode à la demande. Pour en savoir plus, consultez la page de tarification Amazon Bedrock.
Mise à jour : 27/02/2024 – La publication d'origine indiquait à tort que le lancement était généralement disponible, alors qu'il s'agit de la version préliminaire, et a été mise à jour en conséquence.