Amazon Bedrock'taki Amazon Nova Pro altyapı modeline yönelik gecikme süresi için optimize edilmiş çıkarımlar duyuruldu
Amazon Nova Pro altyapı modeli artık Amazon Bedrock'ta ön izleme modunda gecikme süresi için optimize edilmiş çıkarımı destekliyor. Bu da üretken yapay zeka uygulamalarında daha hızlı yanıt verilebilmesini ve yanıt vermenin iyileştirilmesini mümkün kılıyor. Gecikme süresi için optimize edilmiş çıkarım, gecikme süresine duyarlı uygulamalar için yanıt sürelerini kısaltarak son kullanıcı deneyimini iyileştirir ve geliştiricilere, kullanım örneklerine göre performansı optimize etme açısından daha fazla esneklik sağlar. Bu özelliklere erişmek için ek kurulum veya modelle ilgili ince ayar gerekmez. Bu da mevcut uygulamaların daha kısa yanıt süreleriyle anında iyileştirilmesine olanak tanır.
Amazon Nova Pro gecikme süresi için optimize edilmiş çıkarım özelliği ABD Batı (Oregon), ABD Doğu (Virginia) ve ABD Doğu (Ohio) bölgelerinde bölgeler arası çıkarım yapılarak kullanılabilir. Amazon Nova altyapı modelleri hakkında daha fazla bilgiyi AWS Haber Blogunda, Amazon Nova ürün sayfasında veya Amazon Nova kullanım kılavuzunda bulabilirsiniz. Bedrock'taki gecikme süresi için optimize edilmiş çıkarım özelliği hakkında daha fazla bilgiye belgelerden ulaşabilirsiniz. Amazon Bedrock konsolundan Amazon Bedrock'ta Amazon Nova altyapı modellerini kullanmaya başlayabilirsiniz.