O OpenAI GPT-6 Astra agora oferece suporte ao modo UltraFast no Amazon Bedrock
Hoje, a AWS anuncia a disponibilidade do modo UltraFast para o GPT-6 Astra da OpenAI no Amazon Bedrock. O Ultrafast é um nível de velocidade premium para o GPT-6 Astra, desenvolvido para workloads em que a velocidade é mais importante. De acordo com a OpenAI, o Ultrafast oferece inferência até 6 vezes mais rápida na API, com até 300 tokens por segundo. O mecanismo de inferência Amazon Bedrock oferece o desempenho, a segurança e a escala necessários para workloads de produção.
Use o GPT-6 Astra Ultrafast para aplicativos sensíveis à latência, como assistentes de codificação em tempo real, agentes interativos e experiências voltadas para o cliente que exigem respostas rápidas e de alta qualidade. Os controles estabelecidos da AWS ajudam você a proteger workloads, controlar o acesso e auditar a atividade de invocação do modelo.
Você pode começar a usá-lo no console do Amazon Bedrock ou programaticamente por meio das APIs do Amazon Bedrock. Para obter informações sobre regiões da AWS com suporte, endpoints, APIs, recursos, perfis de inferência e preços, consulte a documentação do Amazon Bedrock.