Amazon Bedrock étend la prise en charge des Service Quotas
Amazon Bedrock est un service entièrement géré, qui fournit un accès sécurisé de niveau entreprise aux modèles de fondation hautement performants des principales sociétés d’IA, vous permettant de créer et de mettre à l’échelle des applications d’IA générative. Les clients d’Amazon Bedrock peuvent désormais consulter les quotas d’inférence pour le point de terminaison bedrock-mantle via AWS Service Quotas. Cela donne aux clients un moyen familier et cohérent de suivre les limites pour ce point de terminaison, comme ils le font déjà pour le point de terminaison bedrock-runtime et d’autres services AWS, et leur donne une visibilité claire sur les limites qui s’appliquent à leurs charges de travail.
Le point de terminaison bedrock-mantle prend en charge l’API OpenAI Responses, l’API OpenAI Chat Completions et l’API Anthropic Messages, permettant aux clients d’exécuter des applications basées sur OpenAI ou Anthropic existantes sur Amazon Bedrock avec un minimum de modifications de code. AWS Service Quotas expose désormais des quotas de jetons d’entrée par minute et de jetons de sortie par minute par modèle pour les modèles pris en charge sur le point de terminaison.
Grâce à ce lancement, les clients obtiennent une visibilité sur les limites qu’ils ont en matière de point de terminaison et peuvent planifier de manière proactive l’échelle de production. Pour commencer, ouvrez la console AWS Service Quotas, choisissez Amazon Bedrock et recherchez « Bedrock Mantle » pour consulter vos quotas actuels. Pour demander une augmentation de l’un de ces quotas, suivez la procédure standard d’augmentation des limites d’Amazon Bedrock. La prise en charge des Service Quotas pour le terminal bedrock-mantle est disponible dans toutes les Régions AWS où le point de terminaison est proposé : USA Est (Virginie du Nord, Ohio), USA Ouest (Oregon), Asie-Pacifique (Mumbai, Tokyo, Sydney, Jakarta), Europe (Francfort, Irlande, Londres, Milan, Stockholm) et Amérique du Sud (São Paulo). Pour en savoir plus, consultez la section Quotas pour Amazon Bedrock.