Amazon Bedrock Guardrails, hizmet kota sınırlarında bir artış duyurdu
Amazon Bedrock Guardrails, üretken yapay zeka uygulamalarınızı daha yüksek trafiğe yönelik olarak ölçeklendirebilmeniz için varsayılan hizmet kota sınırlarında bir artış olduğunu duyurdu. Bedrock Guardrails, istenmeyen ve zararlı içeriği farklı kategoriler ve hızlı saldırılar arasında filtrelemek için yapılandırılabilir önlemler, belirli konuları tanımlamak ve izin vermemek için konu filtreleri, kimliği tanımlayabilecek bilgileri (PII) düzenlemek için hassas bilgi filtreleri, belirli kelimeleri engellemek için kelime filtreleri ve model yanıtlarının temelini ve uygunluğunu tespit ederek model halüsinasyonlarını tespit etmenin yanı sıra Otomatik Akıl Yürütme kullanarak model yanıtlarındaki olgusal iddiaları tanımlar, düzeltir ve açıklar. Bu politikalar, özel kullanım durumlarınıza ve sorumlu yapay zeka politikalarınıza göre uyarlanabilir. Bütünlük korumaları, Amazon Bedrock ile barındırılanlar, kendi kendine barındırılan modeller ve ApplyGuardrail API'si kullanılarak üçüncü taraf modelleri dahil olmak üzere herhangi bir temel modeline uygulanabilir ve tutarlı bir kullanıcı deneyimi sağlar ve güvenlik ve gizlilik denetimlerini standartlaştırır.
Bugünden itibaren Bedrock Guardrails, saniyede daha yüksek işlem (TPS) ve saniyede daha yüksek metin birimleri (TUPS) işlemeye yardımcı olan artan hizmet kota sınırları ile üretken yapay zeka uygulamalarınızı daha yüksek trafik yükleri için ölçeklendirmenize olanak tanır. Bu artışla, artık ApplyGuardrail API'sini kullanarak saniyede önceki 25 çağrı sınırından iki kat artışla 50 çağrıyı işleyebilirsiniz. İçerik filtreleri, hassas bilgi filtreleri ve kelime filtreleri artık önceki 25 TUPS sınırlarından 8 kat daha fazla artışla 200 TUPS'ye kadar işleyebilir.
Bu sınırlar ABD Doğu (Kuzey Virginia) ve ABD Batı (Oregon) AWS bölgelerinde mevcuttur.
Daha fazla bilgi edinmek için teknik belgelere ve Bedrock Guardrails ürün sayfasına bakın.