Guardrail per Amazon Bedrock ora supporta i controlli del ragionamento automatico (anteprima)
Introducendo la protezione dei controlli del ragionamento automatico in Guardrail per Amazon Bedrock, AWS diventa il primo e l'unico importante fornitore di cloud a integrare il ragionamento automatico nelle offerte di IA generativa. I controlli del ragionamento automatico aiutano a rilevare le allucinazioni e forniscono una prova verificabile dell'accuratezza della risposta di un modello linguistico di grandi dimensioni (LLM). Gli strumenti di ragionamento automatico non consentono di indovinare o prevedere l'accuratezza, ma si affidano a solide tecniche matematiche per verificare definitivamente la conformità alle policy di ragionamento automatico create da esperti, migliorando di conseguenza la trasparenza. Le organizzazioni utilizzano sempre più gli LLM per migliorare l'esperienza utente e ridurre i costi operativi consentendo l'accesso conversazionale a informazioni pertinenti e contestualizzate. Tuttavia, gli LLM sono inclini alle allucinazioni, che risultano difficili da rilevare per la capacità degli LLM di generare risposte convincenti. La possibilità di allucinazioni e l'incapacità di spiegare perché si sono verificate rallenta l'adozione dell'IA generativa nei casi d'uso in cui l'accuratezza è fondamentale.
Usando i controlli del ragionamento automatico, gli esperti di domini possono creare più facilmente le specifiche chiamate "Policy di ragionamento automatico", che racchiudono le loro conoscenze in ambiti quali i flussi di lavoro operativi e le politiche delle risorse umane. Gli utenti di Guardrail per Amazon Bedrock possono convalidare i contenuti generati in base a una Policy di ragionamento automatico per identificare inesattezze e ipotesi non dichiarate, quindi spiegare perché le dichiarazioni sono accurate in modo verificabile. Ad esempio, puoi configurare i controlli del ragionamento automatico per convalidare le risposte su argomenti definiti nelle complesse politiche delle risorse umane (che possono includere vincoli sulla permanenza, sulla sede e sulle prestazioni dei dipendenti) e spiegare perché una risposta è accurata con prove a sostegno.
Contatta il team del tuo account AWS per richiedere l'accesso ai controlli del ragionamento automatico in Guardrail per Amazon Bedrock nelle seguenti regioni AWS: Stati Uniti orientali (Virginia settentrionale) e Stati Uniti occidentali (Oregon). Per maggiori informazioni vai su Guardrail per Amazon Bedrock e leggi il blog AWS News.