Transforme a IA responsável da teoria em prática

Promover o desenvolvimento seguro e responsável da IA como uma força para o bem

Criando IA com responsabilidade na AWS

O rápido crescimento da inteligência artificial (IA) generativa traz inovações promissoras e, ao mesmo tempo, apresenta novos desafios. Na AWS, estamos comprometidos em desenvolver a IA de forma responsável, adotando uma abordagem centrada nas pessoas que prioriza a educação, a ciência e nossos clientes, para integrar a IA responsável em todo seu ciclo de vida.

Imagem com formas coloridas

Aspectos fundamentais da IA responsável

Imparcialidade

Consideração dos impactos em diferentes grupos de partes interessadas

Explicabilidade

Compreensão e avaliação de resultados do sistema

Privacidade e segurança

Obtenção, uso e proteção de dados e modelos da forma adequada

Segurança

Prevenção da saída prejudicial do sistema e do uso indevido

Controlabilidade

Existência de mecanismos para monitorar e orientar o comportamento do sistema de IA

Veracidade e robustez

Obtenção de saídas corretas do sistema, mesmo com entradas inesperadas ou adversárias

Governança

Incorporação das práticas recomendadas na cadeia de suprimentos de IA, incluindo provedores e responsáveis pela implantação

Transparência

Capacitação das partes interessadas para a tomada de decisões informadas sobre seu envolvimento com um sistema de IA

Aspectos fundamentais da IA responsável

Imparcialidade

Consideração dos impactos em diferentes grupos de partes interessadas

Explicabilidade

Compreensão e avaliação de resultados do sistema

Privacidade e segurança

Obtenção, uso e proteção de dados e modelos da forma adequada

Segurança

Prevenção da saída prejudicial do sistema e do uso indevido

Controlabilidade

Existência de mecanismos para monitorar e orientar o comportamento do sistema de IA

Veracidade e robustez

Obtenção de saídas corretas do sistema, mesmo com entradas inesperadas ou adversárias

Governança

Incorporação das práticas recomendadas na cadeia de suprimentos de IA, incluindo provedores e responsáveis pela implantação

Transparência

Capacitação das partes interessadas para a tomada de decisões informadas sobre seu envolvimento com um sistema de IA

Serviços e ferramentas

A AWS oferece serviços e ferramentas para ajudar a projetar, criar e operar sistemas de IA com responsabilidade.

Implementação de proteções na IA generativa

As barreiras de proteção do Amazon Bedrock ajudam a implementar proteções personalizadas para suas aplicações de IA generativa e alinhadas às políticas de IA responsável. As barreiras de proteção fornecem proteções adicionais personalizáveis, além das proteções nativas dos FMs, oferecendo recursos de segurança que estão entre os melhores do setor ao:

  • Bloquear até 85% mais conteúdo prejudicial
  • Filtrar mais de 75% das respostas alucinadas para RAG e workloads de resumo
  • Permitir que os clientes personalizem e apliquem proteções de segurança, privacidade e veracidade em uma única solução
Tons de linhas de fluxo

Avaliações do modelo de base (FM)

A avaliação de modelos no Amazon Bedrock ajuda a avaliar, comparar e selecionar os melhores FMs para seu caso de uso específico com base em métricas personalizadas, como precisão, robustez e toxicidade. Você também pode usar o Amazon SageMaker Clarify e o fmeval para avaliação de modelos.

Formas de cores diferentes em um fundo azul

Detecção de vieses e explicação de previsões

Vieses são desequilíbrios nos dados ou disparidades na performance de um modelo em grupos diferentes. O Amazon SageMaker Clarify ajuda a reduzir os vieses detectando sua possível ocorrência durante a preparação dos dados, após o treinamento de modelo e no modelo implantado, examinando atributos específicos.

Compreender o comportamento de um modelo é importante para desenvolver modelos mais precisos e tomar decisões melhores. O Amazon SageMaker Clarify fornece maior visibilidade do comportamento do modelo, para que você possa oferecer transparência às partes interessadas, informar as pessoas que tomam decisões e acompanhar se um modelo está funcionando conforme o esperado.

Conheça o Amazon SageMaker Clarify

Design de onda azul e verde

Monitoramento e revisão humana

O monitoramento é importante para manter modelos de machine learning (ML) de alta qualidade e ajudar a garantir previsões precisas. O Amazon SageMaker Model Monitor detecta automaticamente e alerta sobre previsões imprecisas de modelos implantados. Com o Amazon SageMaker Ground Truth, você pode aplicar feedback humano em todo o ciclo de vida do ML para melhorar a precisão e a relevância dos modelos.

Objetos de diferentes tamanhos e formatos em uma correia transportadora

Aprimoramento da governança

A governança de ML do Amazon SageMaker fornece ferramentas específicas para melhorar a governança de projetos de ML, oferecendo maior controle e visibilidade sobre os modelos de ML. Você pode capturar e compartilhar facilmente as informações do modelo e se manter informado sobre o comportamento dele, como viés, tudo em um só lugar.

Padrão abstrato de pontos conectados

Cartões de serviço de IA da AWS

Os cartões de serviço de IA são um recurso para aumentar a transparência, fornecendo a você um único local para encontrar informações sobre os casos de uso e limitações pretendidos, escolhas de design de IA responsável e práticas recomendáveis de otimização de desempenho para nossos serviços e modelos de IA.

Explore os cartões de serviço disponíveis

Foto aérea de carros passando por cima de uma ponte

Contribuição e colaboração da comunidade

Com um profundo envolvimento com organizações compostas por várias partes interessadas, como os grupos de trabalho do OECD AI, a Partnership on AI, o Responsible AI Institute e o National AI Advisory Committee, bem como parcerias estratégicas com universidades em escala global, estamos comprometidos em trabalhar com outras pessoas para desenvolver a tecnologia de IA e ML de forma responsável e que promova a confiança.

Adotamos uma abordagem centrada nas pessoas para educar a próxima geração de líderes em IA com iniciativas como o programa AI & ML Scholarship e a comunidade We Power Tech para aumentar o acesso ao aprendizado prático, a bolsas de estudo e a mentorias para pessoas carentes ou sub-representadas em tecnologia.

Nosso investimento em IA generativa segura, transparente e responsável abrange a colaboração com a comunidade global e os formuladores de políticas, incluindo os compromissos voluntários de IA da Casa Branca, o AI Safety Summit no Reino Unido e o suporte à ISO 42001, um novo padrão fundamental para promover a IA responsável. Apoiamos o desenvolvimento de estruturas regulatórias eficazes baseadas em riscos para a IA que protejam os direitos civis e permitam a inovação contínua.

A IA responsável é uma área ativa de pesquisa e desenvolvimento na Amazon. Temos parcerias estratégicas com instituições acadêmicas, como o California Institute of Technology e com a Amazon Scholars, incluindo os principais especialistas que aplicam suas pesquisas acadêmicas para ajudar a moldar fluxos de trabalho de IA responsável na Amazon.

Inovamos com nossos clientes, permanecendo na vanguarda das novas tendências e pesquisas para agregar valor, com bolsas de pesquisa contínuas por meio do Amazon Research Awards e publicações científicas da Amazon Science. Saiba mais sobre a ciência para criar IA generativa de forma responsável neste blog da Amazon Science, que revela os principais desafios e soluções emergentes.