Barreiras de Proteção para Amazon Bedrock já oferecem suporte a verificações de Raciocínio Automatizado (versão prévia)
Com o lançamento da proteção de verificações de raciocínio automatizado nas Barreiras de Proteção para Amazon Bedrock, a AWS se torna a primeira e única grande provedora de nuvem a integrar o raciocínio automatizado em ofertas de IA generativa. As verificações de raciocínio automatizado ajudam a detectar alucinações e fornecem uma comprovação verificável de que a resposta de um grande modelo de linguagem (LLM) é precisa. As ferramentas de raciocínio automatizado não adivinham nem estimam a precisão. Em vez disso, eles usam técnicas matemáticas sólidas para verificar definitivamente a conformidade com as Políticas de Raciocínio Automatizado criadas por especialistas, melhorando consequentemente a transparência. Cada vez mais, as organizações usam LLMs para melhorar as experiências do usuário e reduzir os custos operacionais, permitindo o acesso conversacional a informações relevantes e contextualizadas. No entanto, os LLMs são propensos a alucinações. Devido à capacidade dos LLMs de gerar respostas convincentes, essas alucinações geralmente são difíceis de detectar. A possibilidade de alucinações e a incapacidade de explicar por que elas ocorreram retardam a adoção da IA generativa em casos de uso em que a precisão é fundamental.
Com as verificações de raciocínio automatizado, os especialistas de domínio podem criar com mais facilidade especificações chamadas Políticas de Raciocínio Automatizado que encapsulam seus conhecimentos em áreas como fluxos de trabalho operacionais e políticas de RH. Os usuários das Barreiras de Proteção para Amazon Bedrock podem validar o conteúdo gerado com base em uma Política de Raciocínio Automatizado para identificar imprecisões e suposições não declaradas e explicar por que as declarações são precisas de forma verificável. Por exemplo, você pode configurar verificações de raciocínio automatizado para validar respostas sobre tópicos definidos em políticas complexas de RH (que podem incluir restrições à permanência, localização e performance dos funcionários) e explicar por que uma resposta é precisa com evidências de apoio.
Entre em contato com sua equipe de contas da AWS para solicitar acesso às verificações de raciocínio automatizado nas Barreiras de Proteção para Amazon Bedrock nas regiões da AWS Leste dos EUA (Norte da Virgínia) e Oeste dos EUA (Oregon). Para saber mais, acesse Barreiras de Proteção para Amazon Bedrock e leia o blog de notícias.