Amazon Bedrock İçin Bütünlük Korumaları

Amazon Bedrock için Bütünlük Korumaları, FM'lerin yerel korumalarının yanı sıra özelleştirilebilir ek güvenlik önlemleri sağlar ve aşağıdaki yollarla sektördeki en iyiler arasında yer alan güvenlik korumaları sunar:

• %85'e kadar daha fazla zararlı içeriği engelleme
• RAG ve özetleme iş yükleri için %75'ten fazla halüsinasyonlu yanıtların filtrelenmesi
• Müşterilerin tek bir çözüm içinde güvenlik, gizlilik ve doğruluk korumalarını özelleştirmelerini ve uygulamalarını sağlama

Amazon Bedrock için Bütünlük Korumaları, kullanıcı girdilerini ve altyapı modeli yanıtlarını kullanım örneklerine özgü politikalara göre değerlendirir ve temel altyapı modelinden bağımsız olarak ek bir koruma katmanı sağlar. Amazon Bedrock için Bütünlük Korumaları, büyük bir bulut sağlayıcısı tarafından sunulan ve müşterilerin üretici yapay zeka uygulamaları için güvenlik, gizlilik ve doğruluk korumaları oluşturup özelleştirmelerine olanak tanıyan tek sorumlu yapay zeka özelliğidir ve Amazon Bedrock'taki tüm büyük dil modelleri (LLM'ler) ve ince ayarlanmış modellerle çalışır. Müşteriler, her biri farklı bir kontrol kombinasyonuyla yapılandırılmış birden fazla bütünlük koruması oluşturabilir ve bu bütünlük korumalarını farklı uygulamalarda veya kullanım örneklerinde kullanabilir. Bütünlük Korumaları, sorumlu yapay zeka politikalarınızla uyumlu üretici yapay zeka uygulamaları oluşturmak amacıyla Amazon Bedrock için Temsilciler ve Bilgi Tabanları ile de entegre edilebilir. Ek olarak, Bütünlük Korumaları, Bedrock dışındaki herhangi bir özel veya üçüncü taraf FM tarafından oluşturulan kullanıcı girdilerini ve model yanıtlarını değerlendirmek için bir ApplyGuardrail API'si sunar.

Kuruluşlar, ilgili ve güvenli bir kullanıcı deneyimi için üretici yapay zeka uygulamaları içindeki etkileşimleri yönetme ihtiyacının farkındadır. İşleriyle ilgili konulara odaklanmış durumda kalmak ve şirket politikalarıyla uyumlu olmak için etkileşimlerde daha fazla özelleştirme yapmak isterler. Kısa bir doğal dil açıklaması kullanan Amazon Bedrock için Bütünlük Korumaları, uygulamanız bağlamında kaçınmanız gereken bir dizi konuyu tanımlamanıza olanak tanır. Bütünlük Korumaları, kısıtlı konulara giren kullanıcı girdilerini ve altyapı modeli yanıtlarını hem algılar hem de engeller. Örneğin, bir bankacılık asistanı yatırım tavsiyesiyle ilgili konulardan kaçınmak amacıyla tasarlanabilir.

Amazon Bedrock İçin Bütünlük Korumaları, zararlı içeriği nefret, hakaret, cinsel, şiddet, uygunsuz hareket (suç faaliyeti dahil) ve istem saldırılarına karşı koruma (istem ekleme ve hapishaneden kaçma) kapsamında filtrelemek üzere yapılandırılabilir eşiklere sahip içerik filtreleri sağlar. Çoğu altyapı modeli zaten zararlı yanıtların oluşmasını önlemek için yerleşik korumalar sağlar. Bu korumalara ek olarak Bütünlük Korumaları, zararlı etkileşimleri filtrelemek için farklı içerik kategorilerindeki eşikleri yapılandırmanıza olanak tanır. Filtrenin gücünün artırılması, filtrelemenin agresifliğini artırır. Bütünlük Korumaları, kısıtlı kategorilere giren içeriği algılamak ve önlemeye yardımcı olmak için hem kullanıcı girdisi hem de altyapı modeli yanıtlarını otomatik olarak değerlendirir. Örneğin bir e-ticaret sitesi, çevrimiçi asistanını nefret söylemi veya hakaret gibi uygunsuz bir dil kullanmaktan kaçınmak için tasarlayabilir.

Amazon Bedrock İçin Bütünlük Korumaları, kullanıcı girişlerinde ve altyapı modeli yanıtlarında Kimliği Tanımlayabilecek Bilgiler (PII) gibi hassas içerikleri algılamanıza olanak tanır. Önceden tanımlanmış PII listesinden seçim yapabilir veya normal ifadeleri (RegEx) kullanarak özel hassas bilgi türünü tanımlayabilirsiniz. Kullanım örneğine bağlı olarak, hassas bilgiler içeren girişleri seçici olarak reddedebilir veya altyapı modeli yanıtlarında sansürleyebilirsiniz. Örneğin, bir çağrı merkezindeki müşteri ve temsilci konuşma dökümlerinden özetler oluştururken kullanıcıların kişisel bilgilerini düzenleyebilirsiniz.

Amazon Bedrock İçin Bütünlük Korumaları, kullanıcılarınız ve üretici yapay zeka uygulamaları arasındaki etkileşimde algılamak ve engellemek istediğiniz bir dizi özel kelime veya kelime öbeği yapılandırmanıza olanak tanır. Bu aynı zamanda küfürlerin yanı sıra rakip adları veya diğer saldırgan kelimeler gibi belirli özel kelimeleri tespit etmenize ve engellemenize de olanak tanır.

Kuruluşların, kullanıcıların güvenini korumak ve büyütmek için doğru ve güvenilir üretici yapay zeka uygulamaları dağıtması gerekir. Bununla birlikte, FM'ler kullanılarak oluşturulan uygulamalar, halüsinasyonlar nedeniyle yanlış bilgi üretebilir. Örneğin FM'ler kaynak bilgilerden sapan yanıtlar üretebilir, birden fazla bilgi parçasını birleştirebilir veya yeni bilgiler icat edebilir. Amazon Bedrock İçin Bütünlük Korumaları, kaynak bilgilerinde yanıtların temellenmemesi (örneğin gerçekte yanlış veya yeni bilgiler) ve kullanıcının sorgusu veya talimatıyla alakasız olması durumunda halüsinasyonları algılamak ve filtrelemek için bağlamsal referans denetimlerini destekler. Bağlamsal referans denetimleri, kaynak bilgilerin model yanıtını doğrulamada referans olarak kullanılabileceği RAG, özetleme ve konuşma uygulamaları için halüsinasyonları tespit etmek üzere kullanılabilir.