Geral

P: O que é o Amazon SageMaker?

O Amazon SageMaker é um serviço totalmente gerenciado que fornece a todos os desenvolvedores e cientistas de dados a capacidade de criar, treinar e implantar modelos de machine learning (ML) rapidamente. O SageMaker remove o trabalho pesado de cada etapa do processo de machine learning para facilitar o desenvolvimento de modelos de alta qualidade.

P: Em quais regiões o Amazon SageMaker está disponível?

Para obter uma lista das regiões da AWS em que o Amazon SageMaker está disponível, acesse a Tabela de regiões da AWS de toda a infraestrutura global da AWS. Para obter mais informações, consulte Regiões e endpoints na Referência geral da AWS.

P: Qual a disponibilidade dos serviços do Amazon SageMaker?

O Amazon SageMaker foi projetado para oferecer alta disponibilidade. Não há janelas de manutenção nem tempos de inatividade programados. As APIs do SageMaker são executadas nos datacenters comprovados e de alta disponibilidade da Amazon, com replicação da pilha de serviços configurada em três unidades em cada região da AWS para proporcionar tolerância a falhas em caso de falha de servidor ou interrupção de zona de disponibilidade.

P: Quais as medidas de segurança implementadas no Amazon SageMaker?

O Amazon SageMaker garante que os artefatos de modelos de machine learning e outros artefatos de sistema sejam criptografados quando em trânsito e quando ociosos. As solicitações para a API e o console do SageMaker são realizadas em uma conexão segura (SSL). Você envia funções do AWS Identity and Access Management ao SageMaker para fornecer permissões para acessar recursos em seu nome para fins de treinamento e implantação. Você pode usar buckets do S3 criptografados para modelar artefatos e datas, bem como passar uma chave do KMS a notebooks, trabalhos de treinamento e endpoints do SageMaker para criptografar o volume associado de armazenamento de machine learning.

P: Como o Amazon SageMaker protege meu código?

O Amazon SageMaker armazena código em volumes de armazenamento de Machine Learning, protegidos por security groups e, opcionalmente, criptografados quando ociosos.

P: Como sou cobrado pelo uso do Amazon SageMaker?

Você paga pelos recursos de computação, armazenamento e processamento de dados de Machine Learning usados para hospedar o notebook, treinar o modelo, executar previsões e registrar as saídas. O Amazon SageMaker permite selecionar o número e o tipo de instâncias usadas para o notebook hospedado, para treinamento e para hospedagem de modelos. O pagamento é feito conforme o uso. Não há taxas mínimas nem compromissos antecipados. Consulte a página de definição de preço do Amazon SageMaker para obter detalhes.

P: E se eu tiver o meu próprio ambiente de notebook, treinamento ou hospedagem?

O Amazon SageMaker oferece um fluxo de trabalho completo e abrangente, mas você pode continuar a usar suas ferramentas atuais com o SageMaker. É possível transferir facilmente os resultados de cada fase para dentro e para fora do SageMaker para atender a requisitos de negócios.

P: O que é o Amazon SageMaker Studio?

O Amazon SageMaker Studio fornece uma interface visual única baseada na Web em que você pode executar todas as etapas de desenvolvimento de ML. O SageMaker Studio fornece acesso, controle e visibilidade completos em cada etapa necessária para criar, treinar e implantar modelos. Você pode fazer o upload rápido de dados, criar novos notebooks, treinar e ajustar modelos, alternar entre as etapas para ajustar experimentos, comparar resultados e implantar modelos na produção em um único local, tornando-se muito mais produtivo. Todas as atividades de desenvolvimento de ML, incluindo notebooks, gerenciamento de experimentos, criação automática de modelo, depuração e criação de perfil e detecção de desvio de modelo, podem ser executadas na interface visual unificada do SageMaker Studio.

P: O que é o Amazon SageMaker Autopilot?

O Amazon SageMaker Autopilot é o primeiro recurso de machine learning automatizado do setor que oferece controle e visibilidade completos dos seus modelos de ML. O SageMaker Autopilot inspeciona dados brutos, aplica processadores de recursos, escolhe o melhor conjunto de algoritmos, treina e ajusta vários modelos, monitora a performance deles e os classifica com base na performance, tudo de maneira automática e com apenas alguns cliques. O resultado é o modelo com melhor performance que você pode implantar em uma fração do tempo normalmente necessário para treinar o modelo. Você obtém total visibilidade de como o modelo foi criado e o que ele contém e o SageMaker Autopilot se integra ao Amazon SageMaker Studio. Você pode explorar até 50 modelos diferentes gerados pelo SageMaker Autopilot no SageMaker Studio, facilitando a escolha do melhor modelo para o seu caso de uso. O SageMaker Autopilot pode ser usado por pessoas sem experiência em machine learning para produzir um modelo facilmente. Pode ser usado também por desenvolvedores experientes para desenvolver um modelo de referência em que as equipes podem iterar ainda mais.

P: Qual a diferença entre o Amazon SageMaker Autopilot e os serviços de inteligência artificial verticais como o Amazon Personalize e o Amazon Forecast?

Enquanto o Amazon Personalize e o Amazon Forecast visam especificamente casos de uso personalizados de recomendação e previsão, o Amazon SageMaker Autopilot é uma solução genérica de machine learning para problemas de classificação e regressão, como detecção de fraudes, análise de rotatividade e marketing direcionado. O foco do Personalize e do Forecast está na simplificação da experiência completa, oferecendo treinamento e hospedagem de modelos em um pacote. Você pode treinar modelos usando o Amazon SageMaker Autopilot e obter acesso total aos modelos, bem como aos pipelines que geraram os modelos. Eles podem implantar os modelos no ambiente de hospedagem de sua escolha ou fazer uma iteração adicional para melhorar a qualidade do modelo.

P: Quais algoritmos integrados são permitidos no Amazon SageMaker Autopilot?

O Amazon SageMaker Autopilot aceita 2 algoritmos integrados ao iniciar a execução: XGBoost e Linear Learner.

P: O Amazon SageMaker Autopilot oferece suporte ao treinamento distribuído?

Sim. Todos os algoritmos integrados do Amazon SageMaker Autopilot oferecem suporte a treinamento distribuído imediatamente.

P: Posso interromper um trabalho do Amazon SageMaker Autopilot manualmente?

Sim. Você pode interromper um trabalho a qualquer momento. Quando um trabalho do Amazon SageMaker Autopilot é interrompido, todas as avaliações em andamento serão interrompidas e nenhuma nova avaliação será iniciada.

Criar modelos

P: Quais tipos de blocos de anotações têm suporte?

No momento, os blocos de anotações Jupyter têm suporte.

P: Como funciona o Amazon SageMaker Notebooks?

Agora em demonstração, o Amazon SageMaker Notebooks fornece blocos de anotações do Jupyter com um clique. Com eles, você pode começar a trabalhar em segundos. Os recursos de computação subjacentes são totalmente elásticos, portanto, você pode discar ou reduzir facilmente os recursos disponíveis e as alterações ocorrem automaticamente em segundo plano, sem interromper seu trabalho. O SageMaker também permite o compartilhamento de blocos de anotações com um clique. Todas as dependências de código são capturadas automaticamente, para que você possa colaborar facilmente com outras pessoas. Elas receberão exatamente o mesmo bloco de anotações, salvos no mesmo lugar.

Com o SageMaker Notebooks, você pode entrar com suas credenciais corporativas usando SSO e começar a trabalhar com os blocos de anotações em segundos. É fácil compartilhar blocos de anotações nas equipes e entre elas, pois as dependências necessárias para executar um bloco de anotações são rastreadas automaticamente em ambientes encapsulados com o bloco de anotações à medida que ele é compartilhado.

P: Como funciona o Amazon SageMaker Notebooks com outros serviços da AWS?

O Amazon SageMaker Notebooks oferece acesso a todos os recursos do SageMaker, como treinamento distribuído, transformação em lote, hospedagem e gerenciamento de experiências. Você pode acessar outros serviços, como conjuntos de dados no Amazon S3, Amazon Redshift, AWS Glue, Amazon EMR ou AWS Lake Formation a partir do SageMaker Notebooks.

P: O que é o Amazon SageMaker Ground Truth?

O Amazon SageMaker Ground Truth oferece rotulagem de dados automatizada usando machine learning. Primeiro, o SageMaker Ground Truth selecionará uma amostra aleatória de dados e a enviará para o Amazon Mechanical Turk rotular. Os resultados serão usados para treinar um modelo de rotulagem que tentará rotular uma nova amostra de dados brutos automaticamente. Os rótulos são confirmados quando o modelo consegue rotulá-los com uma pontuação de confiança que atende ou excede o limite que você definiu. Quando a pontuação de confiança fica abaixo desse limite, os dados são enviados para rotulagem por humanos. Alguns dos dados rotulados por humanos são usados ​​para gerar um novo conjunto de dados de treinamento para o modelo de rotulagem. O modelo é treinado automaticamente mais uma vez para melhorar a precisão. Esse processo se repete a cada amostra de dados brutos a ser rotulada. O modelo de rotulagem se tornará mais capaz de rotular automaticamente dados brutos em cada iteração, e menos dados serão encaminhados para pessoas.

Treinar modelos

P: O que é o Amazon SageMaker Experiments?

O Amazon SageMaker Experiments ajuda a organizar e monitorar iterações para modelos de machine learning. O SageMaker Experiments ajuda a gerenciar as iterações, capturando automaticamente os parâmetros de entrada, as configurações e os resultados, armazenando-os como "experimentos". Você pode trabalhar na interface visual do SageMaker Studio, onde pode procurar experimentos ativos, pesquisar experimentos anteriores pelas características, revisar experimentos anteriores pelos resultados deles e comparar visualmente os experimentos.

P: O que é o Amazon SageMaker Debugger?

O Amazon SageMaker Debugger torna o processo de treinamento mais transparente, capturando métricas em tempo real automaticamente durante o treinamento, como treinamento e validação, matrizes de confusão e gradientes de aprendizagem, para ajudar a melhorar a precisão do modelo.

As métricas do SageMaker Debugger podem ser visualizadas no Amazon SageMaker Studio para facilitar o entendimento. O SageMaker Debugger também pode gerar avisos e conselhos de correção quando problemas comuns de treinamento são detectados. Com o SageMaker Debugger, você pode interpretar como um modelo está funcionando, o que representa um passo inicial para a explicabilidade do modelo.

P: O que é Treinamento gerenciado de spots?

O Treinamento gerenciado de spots com o Amazon SageMaker permite treinar seus modelos de machine learning usando instâncias spot do Amazon EC2 e reduzir o custo do treinamento de seus modelos em até 90%.

P: Como uso o Treinamento gerenciado de spots?

Você habilita a opção de Treinamento gerenciado de spots ao enviar suas tarefas de treinamento e também especifica por quanto tempo aguardará a capacidade spot. O Amazon SageMaker usará as instâncias spot do Amazon EC2 para executar sua tarefa e gerenciar a capacidade spot. Você tem total visibilidade do status de sua tarefa de treinamento, tanto enquanto ela está em execução como enquanto ela está aguardando a capacidade.

P: Como devo usar o Treinamento gerenciado de spots?

O Treinamento gerenciado de spots é ideal quando você tem a flexibilidade com suas execuções de treinamento e quando quer minimizar o custo de suas tarefas de treinamento. Com o Treinamento gerenciado de spots, você pode reduzir o custo de treinar seus modelos de machine learning em até 90%.

P:Como o Treinamento gerenciado de instância funciona?

O Treinamento gerenciado de spots usa instâncias spot do Amazon EC2 para treinamento, e essas instâncias poderão ser pré-esvaziadas quando a AWS precisar de capacidade. Como resultado, as tarefas de Treinamento gerenciado de spots podem ser executadas em pequenos incrementos como e quando a capacidade se tornar disponível. Os trabalhos de treinamento não precisam ser reiniciadas do zero quando há um interrupção já que o Amazon SageMaker pode retomar trabalhos de treinamento usando o ponto de verificação mais recente do modelo. As estruturas integradas e os algoritmos integrados de visão de computador com o Amazon SageMaker habilitam pontos de verificação periódicos, e é possível habitá-los com modelos personalizados.

P: Preciso usar um ponto de verificação periodicamente com o Treinamento gerenciado de spots?

Recomendamos usar pontos de verificação periódicos como melhor prática para execução prolongada de tarefas de treinamento. Isso impede que suas tarefas de Treinamento gerenciado de spots sejam reinicializadas se a capacidade for pré-esvaziada. Quando você habilita os pontos de verificação, o Amazon SageMaker retoma suas tarefas de Treinamento gerenciado de spots desde o ponto de verificação mais recente.

P: Como você calcula a economia de custo com tarefas de Treinamento gerenciado de spots?

Depois de concluir uma tarefa de Treinamento gerenciado de spots, você pode ver a economia no Console de Gerenciamento da AWS e também calcular a economia de custo como a diferença percentual entre a duração da tarefa de treinamento e a duração que foi faturada.

Independentemente de quantas vezes suas tarefas de Treinamento gerenciado de spots foram interrompidas, você será cobrado somente uma vez com base na quantidade de dados obtidos por download.

P: Quais instâncias posso usar com o Treinamento gerenciado de spots?

O Treinamento gerenciado de instâncias pode ser usado com todas as instâncias compatíveis com o Amazon SageMaker.

P: Que regiões da AWS são compatíveis com o Treinamento gerenciado de spots?

O Treinamento gerenciado de spots é compatível com todas as regiões da AWS em que o Amazon SageMaker está disponível atualmente.

P: Há limite para o tamanho do conjunto de dados que posso usar para treinamento?

Não há limites fixos para o tamanho do conjunto de dados que pode ser usado para modelos de treinamento com o Amazon SageMaker.

P: Quais fontes de dados posso usar facilmente com o Amazon SageMaker?

Você pode especificar o local dos dados de treinamento no Amazon S3 como parte da criação de um trabalho de treinamento.

P: Quais algoritmos são usados pelo Amazon SageMaker para gerar modelos?

O Amazon SageMaker inclui algoritmos incorporados para regressão linear, regressão logística, agrupamentos k-means, análise de componente principal, máquinas de fatoração, modelagem de tópicos neural, alocação latente de dirichlet, árvores reforçadas com gradiente, sequence2sequence, previsão de séries temporais, word2vec e classificação de imagens. O SageMaker também fornece contêineres otimizados do Apache MXNet, Tensorflow, Chainer, PyTorch, Gluon, Keras, Horovod, Scikit-learn e Deep Graph Library. Além disso, o Amazon SageMaker oferece suporte a algoritmos de treinamento personalizados fornecidos por meio de uma imagem do Docker de acordo com a especificação documentada.

P: O que é o ajuste automático de modelos?

A maioria dos algoritmos de machine learning expõe diversos parâmetros que controlam a operação do algoritmo subjacente. Normalmente, esses parâmetros são mencionados como hiperparâmetros e seus valores afetam a qualidade dos modelos treinados. O ajuste automático de modelos é o processo de encontrar um conjunto de hiperparâmetros de um algoritmo que gera um modelo ideal.

P: Quais modelos podem ser ajustados com o ajuste automático de modelos?

Você pode executar o ajuste automático de modelos no Amazon SageMaker para qualquer algoritmo, desde que cientificamente viável, incluindo algoritmos incorporados do SageMaker, redes neurais profundas ou algoritmos arbitrários a serem incorporados ao SageMaker na forma de imagens do Docker.

P: Posso usar o ajuste automático de modelos fora do Amazon SageMaker?

Não neste momento. A performance e a experiência do ajuste de modelos são melhores dentro do Amazon SageMaker.

P: Qual é o algoritmo de ajuste subjacente?

No momento, o nosso algoritmo de ajuste de hiperparâmetros é uma implementação personalizada da otimização bayesiana. Essa implementação pretende otimizar uma métrica de objetivo especificada pelo cliente durante todo o processo de ajuste. Especificamente, a implementação verifica a métrica do objeto para trabalhos de treinamento concluídos e usa esse conhecimento para inferir a combinação de hiperparâmetros para o próximo trabalho de treinamento.

P: A AWS recomenda hiperparâmetros específicos para ajuste?

Não. O impacto de determinados hiperparâmetros sobre o desempenho do modelo depende de vários fatores. É difícil afirmar com certeza se um hiperparâmetro é mais importante que os demais e, portanto, precisa de ajuste. Para algoritmos incorporados ao Amazon SageMaker, informamos se um hiperparâmetro é ajustável.

P: Quanto tempo demora o trabalho de ajuste de um hiperparâmetro?

A duração do trabalho de ajuste de um hiperparâmetro depende de vários fatores, incluindo o tamanho dos dados, o algoritmo subjacente e os valores dos hiperparâmetros. Além disso, os clientes podem escolher o número de trabalhos de treinamento simultâneos e o seu número total. Todas essas escolhas afetam a duração do trabalho de ajuste de hiperparâmetros.

P: Posso otimizar simultaneamente vários objetivos como, por exemplo, a velocidade e a precisão de um modelo?

Não neste momento. Por enquanto, é necessário especificar uma única métrica de objetivo a ser otimizada, ou alterar o código do algoritmo para emitir uma nova métrica (que é uma média ponderada entre duas ou mais métricas úteis) e fazer o processo de ajuste otimizar considerando essa nova métrica de objetivo.

P: Quanto custa o ajuste automático de modelos?

O trabalho de ajuste de hiperparâmetros não é cobrado. Serão cobrados os trabalhos de treinamento iniciados pelo trabalho de ajuste de hiperparâmetros, de acordo com a definição de preço de treinamento dos modelos.

P: Como escolher entre usar o Amazon SageMaker Autopilot ou o ajuste automático de modelos?

O Amazon SageMaker Autopilot automatiza tudo em um fluxo de trabalho típico de machine learning, incluindo pré-processamento de recursos, seleção de algoritmos e ajuste de hiperparâmetro, concentrando-se especificamente em casos de uso de classificação e regressão. Por outro lado, o ajuste automático de modelos foi projetado para ajustar qualquer modelo, independentemente de ser baseado em algoritmos integrados, estruturas de aprendizagem profunda ou contêineres personalizados. Em troca da flexibilidade, você deve escolher manualmente o algoritmo específico, determinar os hiperparâmetros a serem ajustados e os intervalos de pesquisa correspondentes.

P: O que é aprendizado por reforço?

O aprendizado por reforço é uma técnica de machine learning que permite que um agente aprenda em um ambiente interativo por tentativa e erro, usando feedback recebido por suas próprias ações e experiências.

P: Posso treinar modelos de aprendizado por reforço no Amazon SageMaker?

Sim, você pode treinar modelos de aprendizado por reforço no Amazon SageMaker, além dos modelos de aprendizado supervisionado e não supervisionado.

P: Qual é a diferença entre o aprendizado por reforço e o aprendizado supervisionado?

Embora ambos os aprendizados usem mapeamento entre entrada e saída, ao contrário do aprendizado supervisionado em que o feedback fornecido para o agente é o conjunto correto de funções para execução de uma tarefa, o aprendizado por reforço usa um feedback atrasado onde sinais de recompensa são otimizados para garantir um objetivo a longo prazo por meio de uma sequência de ações.

P: Quando devo usar o aprendizado por reforço?

Enquanto o objetivo das técnicas de aprendizado supervisionado é encontrar a resposta certa com base nos padrões dos dados de treinamento, o objetivo das técnicas de aprendizado não supervisionado é encontrar semelhanças e diferenças entre os pontos de dados. Em contraste, o objetivo das técnicas de aprendizado por reforço é aprender como alcançar um resultado desejado mesmo quando não estiver claro o que deve ser feito para isso. Como resultado, o aprendizado por reforço é mais adequado para permitir aplicativos inteligentes, onde um agente pode tomar decisões autônomas, como robótica, veículos autônomos, HVAC, controle industrial e muito mais.

P: Quais tipos de ambientes posso usar para o treinamento dos modelos de aprendizado por reforço?

O aprendizado por reforço do Amazon SageMaker oferece suporte a diversos ambientes diferentes para treinamento dos modelos de aprendizado por reforço. Use serviços da AWS, como o AWS RoboMaker, ambientes de código aberto ou ambientes personalizados desenvolvidos usando interfaces Open AI Gym, ou ambientes de simulação comerciais, como o MATLAB e o SimuLink.

P: Preciso escrever meus próprios algoritmos de agente de aprendizado por reforço para treinar os modelos de aprendizado por reforço?

Não, o aprendizado por reforço do Amazon SageMaker inclui toolkits de aprendizado por reforço, como Coach and Ray RLLib, que oferecem implementações de algoritmos do agente de aprendizado por reforço, como DQN, PPO, A3C e muito mais.

P: Posso usar minhas próprias bibliotecas de aprendizado por reforço e implementação de algoritmo, e executar no aprendizado por reforço do Amazon SageMaker?

Sim, você pode usar suas próprias bibliotecas de aprendizado por reforço e implementações de algoritmo em contêineres Docker e executá-las no aprendizado por reforço do Amazon SageMaker.

P: Posso fazer lançamentos distribuídos usando o aprendizado por reforço do Amazon SageMaker?

Sim. Também é possível selecionar um cluster heterogêneo onde o treinamento pode ser executado em uma instância da GPU e as simulações podem ser executadas em várias instâncias da CPU.

Implantar modelos

P: O que é o Amazon SageMaker Model Monitor?

O Amazon SageMaker Model Monitor permite que os desenvolvedores detectem e corrijam o desvio do conceito. O SageMaker Model Monitor detecta automaticamente desvios de conceito nos modelos implantados e fornece alertas detalhados que ajudam a identificar a origem do problema. Todos os modelos treinados no SageMaker emitem automaticamente as principais métricas que podem ser coletadas e visualizadas no SageMaker Studio. No SageMaker Studio, você pode configurar os dados a serem coletados, como são visualizados e quando receber alertas.

P: Posso acessar a infraestrutura em que o Amazon SageMaker é executado?

Não. O Amazon SageMaker opera a infraestrutura de computação em seu nome, o que permite executar verificações de integridade, aplicar patches de segurança e realizar outras manutenções de rotina. Você também pode implantar os artefatos do modelo do treinamento com código de inferência personalizado no seu próprio ambiente de hospedagem.

P: Como posso escalar o tamanho e a performance de um modelo do Amazon SageMaker após implantá-lo em produção?

A hospedagem do Amazon SageMaker escala automaticamente a performance necessária para o aplicativo usando Application Auto Scaling. Além disso, você pode alterar manualmente o número e o tipo de instâncias sem causar tempo de inatividade por meio da modificação da configuração do endpoint.

P: Como posso monitorar o ambiente de produção do Amazon SageMaker?

O Amazon SageMaker emite métricas de performance para o Amazon CloudWatch Metrics para que você possa rastrear métricas, definir alarmes e reagir automaticamente a mudanças no tráfego de produção. Além disso, o Amazon SageMaker escreve logs para o Amazon Cloudwatch Logs, o que permite monitorar e solucionar problemas do ambiente de produção.

P: Que tipos de modelos podem ser hospedados com o Amazon SageMaker?

O Amazon SageMaker pode hospedar qualquer modelo que siga a especificação documentada para imagens de Docker de inferência. Isso inclui os modelos criados de artefatos de modelo e código de inferência do Amazon SageMaker.

P: A quantas solicitações de API concorrentes em tempo real o Amazon SageMaker consegue oferecer suporte?

O Amazon SageMaker foi criado para escalar para um grande número de transações por segundo. O número preciso varia em função do modelo implantado e do número e do tipo de instâncias nas quais o modelo é implantado.

P: O que é o Batch Transform?

O Batch Transform permite que você execute previsões em dados em lotes grandes ou pequenos. Não há necessidade de dividir o conjunto de dados em diversas partes nem gerenciar endpoints em tempo real. Com uma API simples, você pode solicitar previsões para um grande número de registros de dados e transformar os dados de maneira rápida e fácil.

P: O que é o Amazon SageMaker Neo?

O Amazon SageMaker Neo permite que os modelos de machine learning sejam treinados uma vez executados em qualquer lugar na nuvem e localmente. O SageMaker Neo otimiza automaticamente os modelos criados com estruturas de aprendizagem profunda populares que podem ser usadas para implantação em várias plataformas de hardware. Os modelos otimizados são executados até duas vezes mais rápido e consomem menos de um décimo dos recursos dos modelos de machine learning usuais.

P: Como posso começar a usar o Amazon SageMaker Neo?

Para começar a usar o Amazon SageMaker Neo, faça login no console do Amazon SageMaker, escolha um modelo de treinamento, siga o exemplo para compilar modelos e implante o modelo resultante na plataforma de hardware de destino.

P: Quais são os principais componentes do Amazon SageMaker Neo?

O Amazon SageMaker Neo contém dois componentes principais – um compilador e um tempo de execução. Primeiro, o compilador Neo lê os modelos exportados por estruturas diferentes. Em seguida, ele converte as funções e operações específicas para cada estrutura em uma representação intermediária indiferente à estrutura. Depois, realiza uma série de otimizações. Em seguida, o compilador gera código binário para as operações otimizadas e grava em uma biblioteca de objetos compartilhados. O compilador também salva a definição do modelo e os parâmetros em arquivos separados. Durante a execução, o tempo de execução do Neo carrega os artefatos gerados pelo compilador — definição do modelo, parâmetros e a biblioteca de objetos compartilhados para executar o modelo.

P: Preciso usar o Amazon SageMaker para treinar meu modelo com o intuito de usar o Amazon SageMaker Neo para converter o modelo?

Não. Você pode treinar os modelos em outros lugares e usar o Neo para otimizá-los para instâncias de ML do Amazon SageMaker ou dispositivos compatíveis do AWS IoT Greengrass.

P: A quais modelos o Amazon SageMaker Neo oferece suporte?

Atualmente, o Amazon SageMaker Neo oferece suporte à maioria dos modelos de aprendizagem profunda que alimentam os aplicativos de visão computacional e os modelos de árvore de decisões mais populares usados no Amazon SageMaker atualmente. O Neo otimiza o desempenho dos modelos AlexNet, ResNet, VGG, Inception, MobileNet, SqueezeNet e DenseNet treinados em MXNet e TensorFlow, e modelos de floresta de corte de classificação e aleatórios treinados em XGBoost.

P: A quais plataformas o Amazon SageMaker Neo oferece suporte?

Atualmente, o Neo oferece suporte às instâncias ML.C5, ML.C4, ML.M5, ML.M4, ML.P3 e ML.P2 do SageMaker e aos dispositivos AWS DeepLens, Raspberry Pi e Jetson TX1 e TX2, e às CPUs Intel® Atom e Intel® Xeon, ARM Cortex-A e GPUs Nvidia Maxwell e Pascal baseadas em dispositivo do Greengrass.

P: Preciso usar uma versão específica de uma estrutura compatível com o hardware de destino?

Não. Os desenvolvedores podem executar os modelos usando o contêiner do Amazon SageMaker Neo sem dependências na estrutura.

P: Quanto custa usar o Amazon SageMaker Neo?

Você paga pelo uso da instância de ML do Amazon SageMaker que executa a inferência usando o Amazon SageMaker Neo.

P: Em quais regiões da AWS o Amazon SageMaker Neo está disponível?

Para ver uma lista das regiões com suporte, consulte a tabela de regiões da AWS.

Saiba mais sobre a definição de preço do Amazon SageMaker

Acesse a página de definição de preço
Pronto para começar?
Cadastre-se
Tem outras dúvidas?
Entre em contato conosco