OpenAI GPT-6 Astra ahora admite el modo UltraFast en Amazon Bedrock
Hoy, AWS anuncia la disponibilidad del modo UltraFast para el GPT-6 Astra de OpenAI en Amazon Bedrock. Ultrafast es un nivel de velocidad superior para el GPT-6 Astra, diseñado para cargas de trabajo en las que la velocidad es lo más importante. Según OpenAI, Ultrafast ofrece una inferencia hasta 6 veces más rápida en la API, con hasta 300 tokens por segundo. El motor de inferencia de Amazon Bedrock ofrece el rendimiento, la seguridad y la fiabilidad necesarios para las cargas de trabajo de producción.
Utilice GPT-6 Astra Ultrafast para aplicaciones sensibles a la latencia, como asistentes de codificación en tiempo real, agentes interactivos y experiencias de cara al cliente que requieren respuestas rápidas y de alta calidad. Los controles de AWS establecidos le ayudan a proteger las cargas de trabajo, controlar el acceso y auditar la actividad de invocación de modelos.
Puede empezar en la consola de Amazon Bedrock o en las API de Amazon Bedrock compatibles mediante programación. Para obtener información sobre los puntos de enlace, las API, las características, los perfiles de inferencia, los precios y las regiones de AWS que se admiten, consulte la documentación de Amazon Bedrock.