Guardrail per Amazon Bedrock ora è in grado di rilevare allucinazioni e di proteggere le app utilizzando qualsiasi FM
Guardrail per Amazon Bedrock consente ai clienti di implementare misure di protezione basate sui requisiti delle applicazioni e sulle policy di IA responsabile. Oggi Guardrail aggiunge controlli contestuali di base e introduce una nuova API ApplyGuardrail per creare applicazioni di IA generativa affidabili utilizzando qualsiasi modello di fondazione (FM).
I clienti si affidano alle funzionalità intrinseche degli FM per generare risposte fondate (credibili) basate sui dati originari dell'azienda. Tuttavia, gli FM possono fondere più informazioni, producendo informazioni errate o nuove che influenzano l'affidabilità dell'applicazione. Con i controlli contestuali di base, Guardrail è ora in grado di rilevare allucinazioni nelle risposte dei modelli per la RAG (generazione potenziata tramite recupero) e le applicazioni di conversazione. Questa protezione aiuta a rilevare e filtrare le risposte che sono di fatto errate per fonte di riferimento e irrilevanti per la query degli utenti. I clienti possono configurare soglie di affidabilità per filtrare le risposte con scarsa affidabilità di fondamento o rilevanza.
Inoltre, per supportare la scelta delle applicazioni di protezione che utilizzano diversi FM, Guardrail ora supporta un'API ApplyGuardrail per valutare gli input degli utenti e le risposte dei modelli per qualsiasi FM personalizzato e di terze parti, oltre agli FM già supportati in Amazon Bedrock. Ora l'API ApplyGuardrail fornisce sicurezza e governance centralizzate per tutte le applicazioni di IA generativa.
Guardrail è l'unica prodotto di un importante fornitore di servizi cloud a fornire protezioni di sicurezza, privacy e veridicità in un'unica soluzione. Il controllo contestuale di base e l'API ApplyGuardrail sono supportati in tutte le regioni AWS in cui è supportato Guardrail per Amazon Bedrock.
Per saperne di più su Guardrail per Amazon Bedrock, visita la pagina della funzionalità e leggi il Novità di AWS.