Amazon Q Business lanza la compatibilidad con la mitigación de alucinaciones en las respuestas de chat
Amazon Q Business lanza hoy una característica para reducir las alucinaciones en las respuestas de los chats. Las alucinaciones son respuestas seguras que dan las aplicaciones de IA generativa, pero que no están justificadas por los datos subyacentes. La nueva característica permite que los clientes mitiguen las alucinaciones en tiempo real durante las conversaciones de chat.
Los modelos de lenguaje de gran tamaño (LLM) que subyacen a las aplicaciones de la IA generativa han reducido el grado de alucinación en las respuestas, pero es posible que estos modelos puedan alucinar. Por lo tanto, se necesita la mitigación de las alucinaciones para generar respuestas fiables y dignas de confianza. La característica de mitigación de alucinaciones de Q Business ayuda a garantizar respuestas de generación aumentada por recuperación (RAG) más precisas a partir de los datos conectados a la aplicación. Estos datos pueden provenir de orígenes de datos conectados o de archivos cargados durante el chat. Durante el chat, Q Business evalúa una respuesta para detectar alucinaciones. Si se detecta con alta confianza una alucinación, el servicio corrige las inconsistencias en la respuesta en tiempo real durante el chat y genera un nuevo mensaje editado.
La característica para Amazon Q Business está disponible en todas las regiones en las que el servicio está disponible. Los clientes pueden optar por utilizar esta característica habilitándola a través de la API o de la consola de Amazon Q. Para obtener más información, consulte la documentación. Para obtener más información sobre Amazon Q Business y sus características, visite la página del producto.