OpenAI GPT-6 Astra unterstützt jetzt den Ultrafast-Modus auf Amazon Bedrock
Heute kündigt AWS die Verfügbarkeit des Ultrafast-Modus für GPT-6 Astra von OpenAI auf Amazon Bedrock an. Ultrafast ist eine Premium-Geschwindigkeitsstufe für GPT-6 Astra, die für Workloads entwickelt wurde, bei denen Geschwindigkeit am wichtigsten ist. Laut OpenAI liefert Ultrafast bis zu 6-mal schnellere Inferenz in der API mit bis zu 300 Token pro Sekunde. Die Amazon Bedrock Inference Engine bietet die Leistung, Sicherheit und Skalierbarkeit, die für Produktionsworkloads erforderlich sind.
Verwenden Sie GPT-6 Astra Ultrafast für latenzempfindliche Anwendungen wie Echtzeit-Coding-Assistenten, interaktive Agenten und Kundenerlebnisse, die schnelle, qualitativ hochwertige Antworten erfordern. Etablierte AWS-Kontrollen helfen Ihnen dabei, Workloads zu sichern, den Zugriff zu steuern und Modellaufrufaktivitäten zu überprüfen.
Sie können in der Amazon Bedrock-Konsole oder programmgesteuert über unterstützte Amazon Bedrock-APIs beginnen. Informationen zu den unterstützten AWS-Regionen, Endpunkten, APIs, Funktionen, Inferenzprofilen und Preisen finden Sie in der Amazon Bedrock-Dokumentation.