Amazon Bedrock Bütünlük Korumaları
Uygulama gereksinimlerinize ve sorumlu yapay zeka politikalarınıza göre özelleştirilmiş güvenlik önlemleri uygulayınAmazon Bedrock Bütünlük Korumaları ile sorumlu yapay zeka uygulamaları oluşturun
Amazon Bedrock Bütünlük Korumaları, altyapı modellerinin yerel korumalarının yanı sıra özelleştirilebilir ek güvenlik önlemleri sağlar ve aşağıdaki yollarla sektördeki en iyiler arasında yer alan güvenlik korumaları sunar:
- %85'e kadar daha fazla zararlı içeriği engelleme
- RAG ve özetleme iş yükleri için %75'ten fazla halüsinasyonlu yanıtların filtrelenmesi
- Müşterilerin tek bir çözüm içinde güvenlik, gizlilik ve doğruluk korumalarını özelleştirmelerini ve uygulamalarını sağlama
Tüm uygulamalarınızda tutarlı düzeyde yapay zeka güvenliği sağlayın
Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerini ve altyapı modeli yanıtlarını kullanım örneklerine özgü politikalara göre değerlendirir ve temel altyapı modelinden bağımsız olarak ek bir koruma katmanı sağlar. Amazon Bedrock Bütünlük Korumaları, büyük bir bulut sağlayıcısı tarafından sunulan ve müşterilerin üretici yapay zeka uygulamaları için güvenlik, gizlilik ve doğruluk korumaları oluşturup özelleştirmelerine olanak tanıyan tek sorumlu yapay zeka özelliği olup Amazon Bedrock'taki tüm büyük dil modelleri (LLM'ler) ve ince ayarlanmış modellerle çalışır. Müşteriler, her biri farklı bir kontrol kombinasyonuyla yapılandırılmış birden fazla bütünlük koruması oluşturabilir ve bu bütünlük korumalarını farklı uygulamalarda veya kullanım örneklerinde kullanabilir. Amazon Bedrock Bütünlük Korumaları, sorumlu yapay zeka politikalarınızla uyumlu üretici yapay zeka uygulamaları oluşturmak amacıyla Amazon Bedrock Temsilcileri ve Amazon Bedrock Bilgi Tabanları ile de entegre edilebilir. Ek olarak Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerini değerlendirmek ve Bedrock dışındaki herhangi bir özel veya üçüncü taraf altyapı modeli ile oluşturulmuş yanıtları modellemek üzere bir ApplyGuardrail API'si sunar.
Üretici yapay zeka uygulamalarınızda istenmeyen konuları engelleyin
Kuruluşlar, ilgili ve güvenli bir kullanıcı deneyimi için üretici yapay zeka uygulamaları içindeki etkileşimleri yönetme ihtiyacının farkındadır. İşleriyle ilgili konulara odaklanmış durumda kalmak ve şirket politikalarıyla uyumlu olmak için etkileşimlerde daha fazla özelleştirme yapmak isterler. Amazon Bedrock Bütünlük Korumaları, uygulamanız bağlamında kaçınmanız gereken bir dizi konuyu kısa bir doğal dil açıklaması kullanarak tanımlamanıza olanak tanır. Amazon Bedrock Bütünlük Korumaları, kısıtlanmış konuları içeren kullanıcı girdilerini ve altyapı modeli yanıtlarını algılayıp engeller. Örneğin, bir bankacılık asistanı yatırım tavsiyesiyle ilgili konulardan kaçınmak amacıyla tasarlanabilir.
Zararlı içeriği sorumlu yapay zeka politikalarınıza göre filtreleyin
Amazon Bedrock Bütünlük Korumaları; nefret, hakaret, cinsellik, şiddet, uygunsuz hareket (suç faaliyetleri dahil) gibi zararlı içerikleri filtrelemek ve istem saldırılarına (istem ekleme ve kısıtlamaları kaldırma) karşı koruma sağlamak için yapılandırılabilir eşiklere sahip içerik filtreleri sunar. Çoğu altyapı modeli zaten zararlı yanıtların oluşmasını önlemek için yerleşik korumalar sağlar. Bu korumalara ek olarak Amazon Bedrock Bütünlük Korumaları, zararlı etkileşimleri filtrelemek üzere farklı içerik kategorileri için eşikler yapılandırmanıza olanak tanır. Filtrenin gücünün artırılması, filtrelemenin agresifliğini artırır. Amazon Bedrock Bütünlük Korumaları, kısıtlı kategorilere giren içeriği algılamak ve önlemeye yardımcı olmak için hem kullanıcı girdisini hem de model yanıtlarını otomatik olarak değerlendirir. Örneğin bir e-ticaret sitesi, çevrimiçi asistanını nefret söylemi veya hakaret gibi uygunsuz bir dil kullanmaktan kaçınmak için tasarlayabilir.
Gizliliği korumak için hassas bilgileri (PII) sansürleyin
Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerindeki ve altyapı modeli yanıtlarındaki kimliği tanımlayabilecek bilgiler (PII) gibi hassas içerikleri algılamanıza olanak tanır. Önceden tanımlanmış PII listesinden seçim yapabilir veya normal ifadeleri (RegEx) kullanarak özel hassas bilgi türünü tanımlayabilirsiniz. Kullanım örneğine bağlı olarak, hassas bilgiler içeren girişleri seçici olarak reddedebilir veya altyapı modeli yanıtlarında sansürleyebilirsiniz. Örneğin, bir çağrı merkezindeki müşteri ve temsilci konuşma dökümlerinden özetler oluştururken kullanıcıların kişisel bilgilerini düzenleyebilirsiniz.
Özel bir kelime filtresi ile uygunsuz içeriği engelleyin
Amazon Bedrock Bütünlük Korumaları, kullanıcılarınız ve üretici yapay zeka uygulamaları arasındaki etkileşimde algılamak ve engellemek istediğiniz bir dizi özel kelime veya ifadeyi yapılandırmanıza olanak tanır. Bu aynı zamanda küfürlerin yanı sıra rakip adları veya diğer saldırgan kelimeler gibi belirli özel kelimeleri tespit etmenize ve engellemenize de olanak tanır.
Bağlamsal referans denetimlerini kullanarak model yanıtlarındaki halüsinasyonları tespit edin
Kuruluşların, kullanıcıların güvenini korumak ve büyütmek için doğru ve güvenilir üretici yapay zeka uygulamaları dağıtması gerekir. Bununla birlikte, FM'ler kullanılarak oluşturulan uygulamalar, halüsinasyonlar nedeniyle yanlış bilgi üretebilir. Örneğin FM'ler kaynak bilgilerden sapan yanıtlar üretebilir, birden fazla bilgi parçasını birleştirebilir veya yeni bilgiler icat edebilir. Amazon Bedrock Bütünlük Korumaları, yanıtların kaynak bilgilerinde referanslanmaması (örneğin olgusal olarak yanlış veya yeni bilgiler) ve kullanıcının sorgusu veya talimatıyla alakasız olması durumunda halüsinasyonları algılamak ve filtrelemek için bağlamsal referans kontrollerini destekler. Bağlamsal referans denetimleri, kaynak bilgilerin model yanıtını doğrulamada referans olarak kullanılabileceği RAG, özetleme ve konuşma uygulamaları için halüsinasyonları tespit etmek üzere kullanılabilir.