Amazon Q Business introduce il supporto per la mitigazione delle allucinazioni nelle risposte via chat
Oggi Amazon Q Business introduce una funzionalità per ridurre le allucinazioni nelle risposte via chat. Le allucinazioni sono risposte sicure generate dalle applicazioni di IA generativa, ma non giustificate dai dati sottostanti. Questa nuova funzionalità consente ai clienti di mitigare le allucinazioni in tempo reale durante le conversazioni in chat.
I modelli linguistici di grandi dimensioni (LLM) che alimentano le applicazioni di IA generativa hanno ridotto l'incidenza delle allucinazioni, ma queste possono verificarsi comunque. È quindi necessaria una mitigazione delle allucinazioni per generare risposte affidabili e accurate. La funzionalità di mitigazione delle allucinazioni di Q Business aiuta a garantire risposte di generazione potenziata da recupero dati (RAG) più precise, basate sui dati collegati all'applicazione. Questi ultimi possono provenire da origini dati collegate o da file caricati durante la conversazione. Durante la chat, Q Business valuta la presenza di allucinazioni in una risposta. Se rileva un'allucinazione con elevata sicurezza, corregge le incongruenze nella risposta in tempo reale e genera un nuovo messaggio modificato.
La funzionalità è disponibile in tutte le regioni in cui è supportato Amazon Q Business. I clienti possono attivare la funzionalità tramite API o la console Amazon Q. Per ulteriori dettagli consulta la documentazione. Per maggiori informazioni su Amazon Q Business e sulle sue funzionalità, vai alla pagina del prodotto di Amazon Q Business.