Guardrail per Amazon Bedrock aumenta i limiti delle quote di servizio
Guardrail per Amazon Bedrock aumenta i limiti predefiniti delle quote di servizio, consentendoti di scalare le tue applicazioni di IA generativa per gestire volumi di traffico più elevati. Guardrail per Bedrock offre strumenti configurabili per filtrare contenuti indesiderati e dannosi in diverse categorie, proteggendo dagli attacchi ai prompt. Include filtri per argomenti per definire e vietare specifici temi, filtri per informazioni sensibili per oscurare informazioni di identificazione personale (PII) e filtri per parole per bloccare termini specifici e rilevare allucinazioni del modello valutandone il fondamento e la pertinenza. Inoltre, utilizza il ragionamento automatico per individuare, correggere e spiegare affermazioni basate su dati fattuali nelle risposte del modello. Tali policy possono essere personalizzate in base ai casi d'uso specifici e alle esigenze di IA responsabile. Guardrail può essere applicato su qualsiasi modello di fondazione, inclusi i modelli ospitati su Amazon Bedrock, con hosting autonomo e di terze parti tramite l'API ApplyGuardrail, offrendo un'esperienza utente coerente e standardizzando i controlli di sicurezza e privacy.
Da oggi Guardrail per Bedrock ti consente di scalare le tue applicazioni di IA generativa per gestire carichi di traffico maggiori, aumentando i limiti delle quote di servizio per aiutarti a elaborare più transazioni al secondo (TPS) e più unità di testo al secondo (TUPS). Grazie a questo aggiornamento, ora puoi elaborare fino a 50 chiamate al secondo utilizzando l'API ApplyGuardrail, raddoppiando il precedente limite di 25. Ora i filtri per i contenuti, per le informazioni sensibili e per le parole possono elaborare fino a 200 TUPS, otto volte più del precedente limite di 25.
Questi miglioramenti sono disponibili nelle regioni AWS Stati Uniti orientali (Virginia settentrionale) e Stati Uniti occidentali (Oregon).
Per ulteriori informazioni, consulta la documentazione tecnica e la pagina del prodotto di Guardrail per Bedrock.