Amazon Bedrock İçin Bütünlük Korumaları artık halüsinasyonları algılayabilir ve herhangi bir FM'yi kullanarak uygulamaları koruyabilir
Amazon Bedrock İçin Bütünlük Korumaları, müşterilerin uygulama gereksinimlerine ve bilinçli yapay zeka politikalarına dayalı güvenlik önlemleri uygulamalarına olanak tanır. Bugün, bütünlük korumalarına bağlamsal referans denetimleri ekleniyor ve herhangi bir altyapı modelini (FM) kullanarak güvenilir üretici yapay zeka uygulamaları oluşturmaya yönelik yeni bir ApplyGuardrail API kullanıma sunuluyor.
Müşteriler, şirketin kaynak verilerine dayanan referanslı (güvenilir) yanıtlar üretmek için FM'lerin yerleşik olanaklarından yararlanır. Bununla birlikte, FM'ler birden fazla bilgi parçasını birleştirerek yanlış veya yeni bilgiler üretebilir, bu da uygulamanın güvenilirliğini etkiler. Bağlamsal referans denetimleri ile Bütünlük Korumaları artık RAG (almayla artırılmış üretim) ve konuşmalı uygulamalar için model yanıtlarındaki halüsinasyonları tespit edebilir. Bu koruma biçimi, bir referans kaynağına dayalı olarak gerçekte yanlış olan ve kullanıcıların sorgusuyla alakasız olan yanıtları tespit etmeye ve filtrelemeye yardımcı olur. Müşteriler, düşük referans güvenine veya alaka düzeyine sahip yanıtları filtrelemek için güven eşikleri yapılandırabilir.
Ayrıca farklı FM'ler kullanan koruma uygulamalarının seçimini desteklemek açısından Bütünlük Korumaları artık Amazon Bedrock'ta zaten desteklenen FM'lere ek olarak, herhangi bir özel ve üçüncü taraf FM için kullanıcı girdilerini ve model yanıtlarını değerlendirmek üzere bir ApplyGuardrail API'yi destekler. ApplyGuardrail API artık tüm üretici yapay zeka uygulamalarınız için merkezi güvenlik ve yönetişim sağlar.
Bütünlük Korumaları, güvenlik, gizlilik ve doğruluk korumalarını tek çözümde sunan büyük bir bulut sağlayıcısının tek teklifidir. Bağlamsal referans denetimi ve ApplyGuardrail API, Amazon Bedrock İçin Bütünlük Korumalarının desteklendiği tüm AWS bölgelerinde desteklenir.
Amazon Bedrock İçin Bütünlük Korumaları hakkında daha fazla bilgi edinmek üzere özellik sayfasına gidin ve haber blogunu okuyun.