Amazon Bedrock Guardrail ora supporta l'inferenza interregionale
Amazon Bedrock Guardrail introduce il supporto per l'inferenza interregionale, una funzionalità facoltativa che consente ai clienti di gestire in modo efficiente i picchi di traffico utilizzando le risorse di calcolo disponibili in diverse regioni AWS.
Bedrock Guardrail fornisce misure di sicurezza configurabili per favorire il rilevamento e il blocco di contenuti dannosi e di attacchi ai prompt e per definire argomenti specifici da vietare e non consentire, quindi aiuta a oscurare le informazioni di identificazione personale (PII) come i dati personali dai prompt di input e dalle risposte modello. Inoltre, Bedrock Guardrail aiuta a rilevare e bloccare le allucinazioni dei modelli, nonché a identificare, correggere e spiegare le affermazioni fattuali nelle risposte del modello utilizzando i controlli del ragionamento automatico. Guardrail può essere applicato a qualsiasi modello di fondazione, inclusi i modelli ospitati su Amazon Bedrock, con hosting autonomo e di terze parti esterni a Bedrock, tramite l'API ApplyGuardrail, offrendo un'esperienza utente coerente e contribuendo a standardizzare i controlli di sicurezza e privacy.
Utilizzando l'inferenza interregionale, i clienti di Amazon Bedrock Guardrail potranno ottenere un throughput costante e una maggiore resilienza durante i periodi di picco della domanda. Attivando questa funzionalità, i clienti risparmiano il tempo e le risorse che vengono dedicati alla previsione delle fluttuazioni della domanda. L'inferenza interregionale, invece, distribuisce automaticamente il traffico tra più regioni, garantendo la massima disponibilità per ogni richiesta e un'esperienza più fluida durante i picchi di utilizzo.
L'utilizzo dell'inferenza interregionale con Amazon Bedrock Guardrail non comporta costi di routing aggiuntivi. L'elenco delle regioni supportate è disponibile qui.
Per saperne di più sulla funzionalità e su come iniziare a usarla, consulta la documentazione tecnica.