Visão geral
O orquestrador de workloads de operações de machine learning (MLOps) simplifica a implantação do modelo de ML e aplica as práticas recomendadas para escalabilidade, confiabilidade e eficiência. Essa solução da AWS é uma estrutura extensível com uma interface padrão para gerenciar pipelines de ML no AWS ML e em serviços de terceiros.
Essa solução inclui um modelo do AWS CloudFormation. Esse modelo permite o treinamento de modelos, o upload de modelos pré-treinados (também conhecidos como traga seu próprio modelo, ou BYOM), a configuração de orquestração do pipeline e o monitoramento de operação do pipeline. Ao implementar essa solução, sua equipe pode aumentar a agilidade e eficiência, repetindo processos bem-sucedidos em grande escala.
Benefícios
Inicie um pipeline pré-configurado por meio de uma chamada de API ou de um bucket do Amazon S3.
Automatize o monitoramento de modelos com o Amazon SageMaker BYOM e forneça um endpoint de inferência sem servidor com detecção de desvio.
Use o Painel de Modelos do Amazon SageMaker para visualizar, pesquisar e explorar todos os seus recursos do Amazon SageMaker, incluindo modelos, endpoints, cartões de modelo e trabalhos de transformação em lote.
Detalhes técnicos
É possível implantar automaticamente essa arquitetura ao usar o guia de implementação e o modelo do AWS CloudFormation que o acompanha. Para atender a diversos casos de uso e necessidades de negócios, essa solução oferece quatro modelos do AWS CloudFormation:
- Use o modelo de conta única para implantar todos os pipelines da solução na mesma conta da AWS. Essa opção é adequada para experimentação, desenvolvimento e/ou workloads em produção em pequena escala.
- Use o modelo de multicontas para fornecer vários ambientes (por exemplo, desenvolvimento, preparação e produção) por meio de diferentes contas da AWS, o que melhora a governança e aumenta a segurança e o controle da implantação do pipeline de ML, proporciona experimentação segura e inovação mais rápida, além de manter os dados de produção e as workloads seguros e disponíveis para ajudar a garantir a continuidade dos negócios.
-
Opção 1 - Implantação de conta única
-
Opção 2 - Implantação de multicontas
-
Opção 1 - Implantação de conta única
-
Clique para aumentar
Etapa 1
O orquestrador, que pode ser um engenheiro de DevOps ou outro tipo de usuário, inicia essa solução em sua conta da AWS e seleciona as opções preferidas. Por exemplo, ele pode usar o registro de modelos do Amazon SageMaker ou um bucket existente do Amazon Simple Storage Service (Amazon S3).
Etapa 2
O orquestrador faz o upload dos ativos necessários, como o artefato de modelo, os dados de treinamento ou o arquivo zip com algoritmo personalizado, no bucket de ativos do Amazon S3. Se o registro de modelos do SageMaker for usado, o orquestrador (ou um pipeline automatizado) deverá registrar o modelo.
Etapa 3a
Uma instância do AWS CodePipeline de conta única é fornecida ao enviar uma chamada de API para o Amazon API Gateway ou ao fazer upload do arquivo mlops-config.json no bucket de configurações do Amazon S3.
Etapa 3b
Dependendo do tipo de pipeline, a função de Orquestrador do AWS Lambda empacota o modelo de destino do CloudFormation e seus parâmetros e configurações usando o corpo da chamada de API ou o arquivo mlops-config.json. Em seguida, o Orquestrador usa esse modelo empacotado e as configurações como o estágio de origem para a instância do CodePipeline.
Etapa 4
A etapa DeployPipeline adota o modelo empacotado do CloudFormation e seus parâmetros ou configurações e implanta o pipeline de destino na mesma conta.
Etapa 5
Após o pipeline de destino ser fornecido, os usuários podem acessar as suas funcionalidades. Uma notificação do Amazon Simple Notification Service (Amazon SNS) é enviada para o e-mail fornecido nos parâmetros de lançamento da solução.Etapa 1
O orquestrador, que pode ser um engenheiro de DevOps ou outro tipo de usuário, inicia essa solução em sua conta da AWS e seleciona as opções preferidas. Por exemplo, ele pode usar o registro de modelos do Amazon SageMaker ou um bucket existente do Amazon Simple Storage Service (Amazon S3).
Etapa 2
O orquestrador faz o upload dos ativos necessários, como o artefato de modelo, os dados de treinamento ou o arquivo zip com algoritmo personalizado, no bucket de ativos do Amazon S3. Se o registro de modelos do SageMaker for usado, o orquestrador (ou um pipeline automatizado) deverá registrar o modelo.
Etapa 3a
Uma instância do AWS CodePipeline de conta única é fornecida ao enviar uma chamada de API para o Amazon API Gateway ou ao fazer upload do arquivo mlops-config.json no bucket de configurações do Amazon S3.
Etapa 3b
Dependendo do tipo de pipeline, a função de Orquestrador do AWS Lambda empacota o modelo de destino do CloudFormation e seus parâmetros e configurações usando o corpo da chamada de API ou o arquivo mlops-config.json. Em seguida, o Orquestrador usa esse modelo empacotado e as configurações como o estágio de origem para a instância do CodePipeline.
Etapa 4
A etapa DeployPipeline adota o modelo empacotado do CloudFormation e seus parâmetros ou configurações e implanta o pipeline de destino na mesma conta.
Etapa 5
Após o pipeline de destino ser fornecido, os usuários podem acessar as suas funcionalidades. Uma notificação do Amazon Simple Notification Service (Amazon SNS) é enviada para o e-mail fornecido nos parâmetros de lançamento da solução. -
Opção 2 - Implantação de multicontas
-
Clique para aumentar
Etapa 1
O orquestrador, que pode ser um engenheiro de DevOps ou outro usuário com acesso de administrador à conta do orquestrador, apresenta as informações do AWS Organizations, como os IDs da unidade organizacional de desenvolvimento, preparação e produção e números de contas.
Ele também especifica as opções desejadas, que podem incluir usar o Registro de Modelos do Amazon SageMaker ou fornecer um bucket existente do Amazon S3, e depois inicia a solução em sua conta da AWS.
Etapa 2
O orquestrador faz o upload dos ativos necessários para o pipeline de destino, o como artefato de modelo, os dados de treinamento e/ou o arquivo zip com algoritmo personalizado, no bucket de ativos do Amazon S3 na conta do orquestrador da AWS. Se o Registro de Modelos do SageMaker for usado, o orquestrador (ou um pipeline automatizado) deverá registrar o modelo no registro de modelo.
Etapa 3a
Uma instância do CodePipeline de várias contas é provisionada enviando uma chamada de API para o API Gateway ou fazendo o upload do arquivo mlops-config.json para o bucket de configuração do Amazon S3.Etapa 3b
Dependendo do tipo de pipeline, a função de Orquestrador do Lambda empacota o modelo
de destino do CloudFormation e seus parâmetros e configurações usando o corpo da chamada de API ou o arquivo mlops-config.json. Em seguida, o Orquestrador usa esse modelo empacotado e as configurações como o estágio de origem para a instância do CodePipeline.
Etapa 4
A etapa DeployDev adota o modelo empacotado do CloudFormation e seus parâmetros ou configurações e implanta o pipeline de destino na conta de desenvolvimento.
Etapa 5
Após o pipeline de destino ser fornecido na conta de desenvolvimento, o desenvolvedor pode iterar no pipeline.Etapa 6
Ao concluir o desenvolvimento, o orquestrador (ou outra conta autorizada) aprova manualmente a ação DeployStaging para seguir para a próxima etapa, DeployStaging.
Etapa 7
A etapa DeployStaging implanta o pipeline de destino na conta de preparação, usando a configuração de preparação.Etapa 8
Os testadores realizam diferente testes no pipeline implementado.Etapa 9
Após o pipeline ser aprovado nos testes de qualidade, o orquestrador pode aprovar a ação DeployProd.Etapa 10
A etapa DeployProd implanta o pipeline de destino (com as configurações de produção) na conta de produção.Etapa 11
O pipeline de destino está ativo na produção. Uma notificação do Amazon SNS é enviada para o e-mail fornecido nos parâmetros de inicialização da solução.
Etapa 1
O orquestrador, que pode ser um engenheiro de DevOps ou outro usuário com acesso de administrador à conta do orquestrador, apresenta as informações do AWS Organizations, como os IDs da unidade organizacional de desenvolvimento, preparação e produção e números de contas.
Ele também especifica as opções desejadas, que podem incluir usar o Registro de Modelos do Amazon SageMaker ou fornecer um bucket existente do Amazon S3, e depois inicia a solução em sua conta da AWS.
Etapa 2
O orquestrador faz o upload dos ativos necessários para o pipeline de destino, o como artefato de modelo, os dados de treinamento e/ou o arquivo zip com algoritmo personalizado, no bucket de ativos do Amazon S3 na conta do orquestrador da AWS. Se o Registro de Modelos do SageMaker for usado, o orquestrador (ou um pipeline automatizado) deverá registrar o modelo no registro de modelo.
Etapa 3a
Uma instância do CodePipeline de várias contas é provisionada enviando uma chamada de API para o API Gateway ou fazendo o upload do arquivo mlops-config.json para o bucket de configuração do Amazon S3.Etapa 3b
Dependendo do tipo de pipeline, a função de Orquestrador do Lambda empacota o modelo
de destino do CloudFormation e seus parâmetros e configurações usando o corpo da chamada de API ou o arquivo mlops-config.json. Em seguida, o Orquestrador usa esse modelo empacotado e as configurações como o estágio de origem para a instância do CodePipeline.
Etapa 4
A etapa DeployDev adota o modelo empacotado do CloudFormation e seus parâmetros ou configurações e implanta o pipeline de destino na conta de desenvolvimento.
Etapa 5
Após o pipeline de destino ser fornecido na conta de desenvolvimento, o desenvolvedor pode iterar no pipeline.Etapa 6
Ao concluir o desenvolvimento, o orquestrador (ou outra conta autorizada) aprova manualmente a ação DeployStaging para seguir para a próxima etapa, DeployStaging.
Etapa 7
A etapa DeployStaging implanta o pipeline de destino na conta de preparação, usando a configuração de preparação.Etapa 8
Os testadores realizam diferente testes no pipeline implementado.Etapa 9
Após o pipeline ser aprovado nos testes de qualidade, o orquestrador pode aprovar a ação DeployProd.Etapa 10
A etapa DeployProd implanta o pipeline de destino (com as configurações de produção) na conta de produção.Etapa 11
O pipeline de destino está ativo na produção. Uma notificação do Amazon SNS é enviada para o e-mail fornecido nos parâmetros de inicialização da solução.
Conteúdo relacionado
Em colaboração com as equipes de arquitetos de soluções de parceiros da AWS e da biblioteca de soluções da AWS, a Cognizant criou sua solução de orquestrador do ciclo de vida de modelos MLOps com base no orquestrador de workload de MLOps.
- Data de publicação