OpenAI GPT-6 Astra ora supporta la modalità UltraFast su Amazon Bedrock
Oggi AWS annuncia la disponibilità della modalità UltraFast per GPT-6 Astra di OpenAI su Amazon Bedrock. Ultrafast è un piano di velocità premium per GPT-6 Astra progettato per i carichi di lavoro in cui la velocità è fondamentale. Secondo OpenAI, Ultrafast offre un'inferenza fino a 6 volte più rapida nell'API, con un massimo di 300 token al secondo. Il motore di inferenza di Amazon Bedrock garantisce le prestazioni, la sicurezza e l'affidabilità necessarie per i carichi di lavoro di produzione.
Utilizza GPT-6 Astra Ultrafast per applicazioni sensibili alla latenza, come assistenti di codifica in tempo reale, agenti interattivi ed esperienze rivolte ai clienti che richiedono risposte rapide e di alta qualità. I controlli AWS esistenti consentono di proteggere i carichi di lavoro, gestire gli accessi e sottoporre ad audit l'attività di invocazione del modello.
È possibile iniziare nella console di Amazon Bedrock o nelle API Amazon Bedrock supportate a livello di programmazione. Per informazioni sulle regioni AWS supportate, sugli endpoint, sulle API, sulle funzionalità, sui profili di inferenza e sui prezzi, consulta la documentazione di Amazon Bedrock.