Amazon Q Business lança suporte para mitigação de alucinações em respostas do chat
Hoje, o Amazon Q Business está lançando um atributo para reduzir alucinações nas respostas de bate-papo. As alucinações são respostas confiantes feitas por aplicações de IA generativa que não são justificadas pelos dados subjacentes. O novo atributo permite que os clientes atenuem as alucinações em tempo real durante as conversas por chat.
Os grandes modelos de linguagem (LLMs) subjacentes às aplicações de IA generativa reduziram a extensão da alucinação em suas respostas, mas é possível que esses modelos possam ter alucinações. Portanto, a mitigação das alucinações é necessária para gerar respostas confiáveis. O atributo de mitigação de alucinações do Q Business ajuda a garantir respostas de geração aumentada via recuperação (RAG) mais precisas dos dados conectados à aplicação. Esses dados podem vir de fontes de dados conectadas ou de arquivos carregados durante o chat. Durante o chat, o Q Business avalia uma resposta para alucinações. Se uma alucinação for detectada com alta confiança, ela corrigirá as inconsistências em sua resposta em tempo real durante o chat e gerará uma nova mensagem editada.
O atributo do Amazon Q Business está disponível em todas as regiões nas quais o Q Business está disponível. Os clientes podem optar por usar esse atributo habilitando-o por meio da API ou do console do Amazon Q. Para obter mais detalhes, consulte a documentação. Para obter mais informações sobre o Amazon Q Business e seus atributos, acesse a página do produto Amazon Q.