Amazon Bedrock étend la prise en charge d’AWS PrivateLink
Amazon Bedrock est un service entièrement géré, qui fournit un accès sécurisé de niveau entreprise aux modèles de fondation hautement performants des principales sociétés d’IA. Outils pour créer et mettre à l’échelle des applications d’IA générative Amazon Bedrock prenait déjà en charge AWS PrivateLink pour le point de terminaison bedrock-runtime. Désormais, avec ce lancement, vous pouvez également utiliser AWS PrivateLink pour accéder de manière privée à vos applications à l’aide du point de terminaison bedrock-mantle. Le point de terminaison bedrock-mantle est alimenté par Project Mantle, un nouveau moteur d’inférence distribué pour un modèle de machine learning à grande échelle utilisé sur Amazon Bedrock. Project Mantle simplifie et accélère l’intégration de nouveaux modèles sur Amazon Bedrock. Il fournit une inférence sans serveur hautement performante et fiable avec des contrôles de qualité de service sophistiqués, débloque des quotas de clients par défaut plus élevés grâce à une gestion automatisée des capacités et à des groupes unifiés, et offre une compatibilité prête à l’emploi avec les spécifications de l’API OpenAI.
La prise en charge par AWS PrivateLink pour les points de terminaison compatibles avec l’API OpenAI est disponible dans les Régions AWS USA Est (Virginie du Nord), USA Est (Ohio), USA Ouest (Oregon), Asie-Pacifique (Jakarta), Asie-Pacifique (Tokyo), Asie-Pacifique (Mumbai), Asie-Pacifique (Sydney), Amérique du Sud (São Paulo), Europe (Francfort), Europe (Irlande), Europe (Londres), Europe (Milan), Europe (Stockholm) et Amérique du Sud (São Paulo). Pour en savoir plus et commencer, consultez la console Amazon Bedrock ou la documentation du service Amazon Bedrock. Pour commencer à utiliser les points de terminaison de service compatibles avec l’API Amazon Bedrock OpenAI, consultez la documentation sur la compatibilité de l’API OpenAI.