Amazon Bedrock amplía la compatibilidad con AWS PrivateLink
Amazon Bedrock es un servicio completamente administrado que da acceso seguro y de nivel empresarial a modelos básicos de alto rendimiento de las principales empresas de IA. Le permite crear y escalar aplicaciones de IA generativa. Amazon Bedrock ya era compatible con AWS PrivateLink para el punto de conexión bedrock-runtime. Ahora, con este lanzamiento, también puede usar AWS PrivateLink para acceder de forma privada a sus aplicaciones mediante el punto de conexión bedrock-mantle. El punto de conexión bedrock-mantle funciona con Project Mantle, un nuevo motor de inferencia distribuida para servir modelos de machine learning a gran escala en Amazon Bedrock. Project Mantle simplifica y acelera la incorporación de nuevos modelos en Amazon Bedrock. Proporciona inferencias sin servidor confiables y de alto rendimiento con controles de calidad de servicio sofisticados, habilita cuotas de clientes predeterminadas más altas con una administración automatizada de la capacidad y grupos unificados, y ofrece compatibilidad lista para usar con las especificaciones de la API de OpenAI.
La compatibilidad de AWS PrivateLink con puntos de conexión compatibles con la API OpenAI está disponible en las regiones de AWS este de EE. UU. (norte de Virginia), este de EE. UU. (Ohio), oeste de EE. UU. (Oregón), Asia-Pacífico (Yakarta), Asia-Pacífico (Tokio), Asia-Pacífico (Mumbai), Asia-Pacífico (Sídney), América del Sur (São Paulo), Europa (Fráncfort), Europa (Irlanda), Europa (Londres), Europa (Milán), Europa (Estocolmo) y América del Sur (São Paulo). Para obtener más información y comenzar, visite la consola de Amazon Bedrock o la documentación del servicio Amazon Bedrock. Para empezar a utilizar los puntos de conexión de servicio compatibles con la API OpenAI de Amazon Bedrock, consulte la documentación de compatibilidad de la API OpenAI.