Amazon Bedrock suma compatibilidad con los últimos modelos de ponderaciones abiertas en Asia-Pacífico (Sídney)
Amazon Bedrock es un servicio completamente administrado que da acceso seguro y de nivel empresarial a modelos básicos de alto rendimiento de las principales empresas de IA. De este modo, puede crear y escalar aplicaciones de IA generativa. Hoy, Amazon Bedrock anunció su compatibilidad con los últimos modelos de ponderaciones abiertas en Asia-Pacífico (Sídney) que utilizan el punto de conexión bedrock-mantle. Estos incluyen modelos de proveedores líderes del sector, como DeepSeek, Google, MiniMax, Mistral, Moonshot AI, MiniMax, Nvidia y OpenAI. El punto de conexión bedrock-mantle funciona con Project Mantle, un nuevo motor de inferencia distribuida para servir modelos de machine learning a gran escala en Amazon Bedrock. Project Mantle simplifica y acelera la incorporación de nuevos modelos en Amazon Bedrock. Proporciona inferencias sin servidor confiables y de alto rendimiento con controles de calidad de servicio sofisticados, habilita cuotas de clientes predeterminadas más altas con una administración automatizada de la capacidad y grupos unificados, y ofrece compatibilidad lista para usar con las especificaciones de la API de OpenAI.
Para obtener más información y comenzar, visite la consola de Amazon Bedrock o la documentación del servicio Amazon Bedrock. Para empezar a utilizar los puntos de conexión de servicio compatibles con la API OpenAI de Amazon Bedrock, consulte la documentación de compatibilidad de la API OpenAI.