Matriz de escopos de segurança da IA generativa

Do ponto de vista jurídico, é importante compreender o contrato de licença de usuário final (EULA) do provedor de serviços, os termos de serviço (TOS) e quaisquer outros acordos contratuais necessários para utilizar seus serviços nos Escopos de 1 a 4. Para o Escopo 5, suas equipes jurídicas devem fornecer seus próprios termos contratuais de serviço para qualquer uso externo dos seus modelos. Além disso, para o Escopo 3 e o Escopo 4, certifique-se de validar tanto os termos jurídicos do provedor de serviços para o uso dos seus serviços quanto os termos jurídicos do provedor do modelo para o uso do seu modelo dentro desses serviços.

Além disso, considere as questões de privacidade se os requisitos do “direito ao apagamento” ou “direito ao esquecimento” do Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia forem aplicáveis aos seus negócios. Considere cuidadosamente o impacto do treinamento ou ajuste fino dos seus modelos com dados que talvez você precise excluir mediante solicitação. A única maneira totalmente eficaz de remover dados de um modelo é excluí-los do conjunto de treinamento e treinar uma nova versão do modelo. Isso não é prático quando a exclusão dos dados é uma fração do total dos dados de treinamento, podendo representar um custo elevado, dependendo do tamanho do seu modelo.

Embora as aplicações habilitadas para IA se assemelhem às tradicionais, sua natureza interativa com grandes modelos de linguagem (LLMs) exige vigilância extra e barreiras de proteção específicas. É fundamental identificar os riscos associados às workloads de IA generativa e começar a atenuá-los.

A identificação de riscos geralmente pode ser feita por meio de avaliações de risco e modelagem de ameaças. Para os Escopos 1 e 2, avalie os riscos decorrentes de fornecedores terceirizados e compreenda suas estratégias de atenuação de riscos. Cabe a você também reconhecer suas responsabilidades em relação ao gerenciamento de riscos como consumidor de serviços.

Para os Escopos 3, 4 e 5, implemente uma modelagem de ameaças que aborde os riscos de segurança da IA e dos dados, com foco em ameaças exclusivas de LLMs, como injeção de prompts. Isso envolve criar entradas que possam manipular as respostas do LLM, podendo levar a violações de dados ou a acessar de forma não autorizada. Orientações recentes do NIST, MITRE e OWASP identificam a injeção de prompts como uma ameaça primária, comparável aos ataques de injeção tradicionais, como o SQL. Reduza esses riscos aplicando autorizações detalhadas e filtragem de dados antes que eles cheguem ao LLM e use o Bedrock Guardrails para proteção adicional.

As ameaças emergentes na IA generativa necessitam da adaptação das medidas tradicionais de segurança cibernética e de uma colaboração estreita com as equipes de desenvolvimento para modelar eficazmente as ameaças e estabelecer práticas recomendadas personalizadas.

A implementação de controles robustos é crucial para garantir a conformidade, as políticas e os requisitos de segurança, reduzindo assim os riscos associados a workloads de IA generativa. Uma das principais considerações é gerenciar a identidade e o acesso aos seus modelos. Ao contrário dos bancos de dados tradicionais, que oferecem controles de segurança refinados, os modelos de base não possuem o conceito de controlar quem pode acessar os dados armazenados no modelo ou os dados fornecidos no momento da inferência. Isso torna essencial implementar um controle de acesso com privilégios mínimos para acessar os dados antes que eles sejam adicionados como contexto à solicitação de inferência.

Para isso, você pode aproveitar camadas de aplicações que interagem com o modelo por meio de endpoint como o Amazon Bedrock. Essas camadas devem incorporar soluções de identidade, como o Amazon Cognito ou o Centro de Identidade do AWS IAM, para autenticar e autorizar usuários. Ao personalizar o acesso com base em perfis, atributos e comunidades de usuários, você pode limitar ações específicas e ajudar a garantir que dados sensíveis sejam protegidos.

Além disso, à medida que suas workloads de IA evoluem, é importante avaliar e atualizar continuamente seus controles para se adaptar a novas ameaças e mudanças na sensibilidade dos dados. A incorporação de técnicas avançadas, como a geração aumentada via recuperação (RAG), permite fornecer dados em tempo real sem comprometer a integridade do modelo. Essas estratégias, combinadas com a modelagem contínua de ameaças, ajudam a manter um ambiente seguro e em conformidade para suas aplicações de IA generativa. 

A disponibilidade é um componente essencial da segurança, conforme destacado na tríade da C.I.A. Criar aplicações resilientes é fundamental para atender aos requisitos de disponibilidade e continuidade dos negócios da sua organização. Para os Escopos 1 e 2, é preciso entender como a disponibilidade do provedor se alinha às necessidades e expectativas da sua organização. Considere cuidadosamente como as interrupções podem afetar seus negócios caso o modelo subjacente, a API ou a camada de apresentação fiquem indisponíveis. Além disso, considere como prompts e preenchimentos complexos podem afetar as cotas de uso ou quais impactos de cobrança a aplicação pode ter.

Para os Escopos 3, 4 e 5, certifique-se de definir tempos limite adequados para levar em conta prompts e conclusões complexas. Você também pode verificar o tamanho da entrada do prompt para os limites de caracteres alocados definidos pelo seu modelo. Considere também as práticas recomendadas existentes para projetos resilientes, como retrocesso e novas tentativas e padrões de disjuntor, para alcançar a experiência do usuário desejada. Ao usar bancos de dados de vetores, recomenda-se ter uma configuração de alta disponibilidade e um plano de recuperação de desastres para garantir resiliência contra diferentes modos de falha.

A flexibilidade da instância para pipelines de modelos de inferência e treinamento são considerações arquitetônicas importantes, além da reserva ou pré-provisionamento potencial de computação para workloads altamente críticas. Ao usar serviços gerenciados, como o Amazon Bedrock ou o SageMaker, você deve validar a disponibilidade da Região da AWS e a paridade de recursos ao implementar uma estratégia de implantação em várias regiões. Da mesma forma, para suporte de várias regiões para workloads de Escopo 4 e 5, você deve levar em consideração a disponibilidade dos seus dados de ajuste fino ou treinamento nas regiões. Se você usar o SageMaker para treinar um modelo no Escopo 5, use pontos de verificação para salvar o progresso ao treinar seu modelo. Isso permitirá retomar o treinamento a partir do último ponto de verificação salvo, se necessário.

Certifique-se de revisar e implementar as práticas recomendadas de resiliência de aplicações existentes estabelecidas no Hub de Resiliência da AWS e nos Pilares de Confiabilidade e Excelência Operacional do Well Architected Framework.