OpenAI GPT-6 Astra prend désormais en charge le mode UltraFast sur Amazon Bedrock
AWS annonce aujourd’hui la disponibilité du mode UltraFast pour GPT-6 Astra depuis OpenAI sur Amazon Bedrock. Ultrafast est un niveau de vitesse haut de gamme pour le GPT-6 Astra, conçu pour les charges de travail où la vitesse est la plus importante. Selon OpenAI, Ultrafast fournit une inférence jusqu’à 6 fois plus rapide dans l’API, avec jusqu’à 300 jetons par seconde. Le moteur d’inférence Amazon Bedrock offre les performances, la sécurité et la fiabilité requises pour les charges de travail de production.
Utilisez le GPT-6 Astra Ultrafast pour les applications sensibles à la latence, telles que les assistants de codage en temps réel, les agents interactifs et les expériences destinées aux clients nécessitant des réponses rapides et de haute qualité. Les contrôles AWS établis vous aident à sécuriser les charges de travail, à régir l’accès et à auditer l’activité d’invocation des modèles.
Vous pouvez démarrer dans la console Amazon Bedrock ou par programmation via les API Amazon Bedrock prises en charge. Pour en savoir plus sur les Régions AWS, les points de terminaison, les API, les caractéristiques, les profils d’inférence et les prix pris en charge, consultez la documentation relative à Amazon Bedrock.