OpenAI GPT-6 Astra artık Amazon Bedrock'ta UltraFast modunu destekliyor
AWS bugün, OpenAI'ın GPT-6 Astra için UltraFast modunun Amazon Bedrock'ta kullanılabileceğini duyurdu. GPT-6 Astra'nın birinci sınıf bir hız katmanı olan Ultrafast, hızın en önemli olduğu iş yükleri için tasarlanmıştır. Ultrafast, OpenAI'a göre saniyede 300 belirteçle API'de 6 kata kadar daha hızlı çıkarım sağlar. Amazon Bedrock çıkarım motoru, üretim iş yükleri için gereken performansı, güvenliği ve güvenilirliği sağlar.
GPT-6 Astra Ultrafast'i gerçek zamanlı kodlama asistanları, etkileşimli temsilciler ve hızlı ve kaliteli yanıtlar gerektiren müşteri odaklı deneyimler gibi gecikmeye duyarlı uygulamalar için kullanın. Yerleşik AWS denetimleri iş yüklerini güvence altına almanıza, erişimi yönetmenize ve model çağırma etkinliğini denetlemenize yardımcı olur.
Amazon Bedrock konsolundan veya programlı olarak desteklenen Amazon Bedrock API'leri aracılığıyla kullanmaya başlayabilirsiniz. Desteklenen AWS Bölgeleri, uç noktalar, API'ler, özellikler, çıkarım profilleri ve fiyatlandırma hakkında bilgi edinmek için Amazon Bedrock belgelerine bakın.