A HUMAN Security acelera o treinamento de ML e o tempo de comercialização usando o Amazon SageMaker

A HUMAN Security usa uma estratégia de defesa moderna, que inclui interrupções, efeito de rede e visibilidade da Internet, visando causar disrupções na economia do crime cibernético. Ela ajuda empresas de todos os setores a aumentar a segurança de sua presença digital, oferecendo uma ampla variedade de soluções de segurança cibernética que ajudam as empresas a proteger seus ativos digitais contra fraudes e bots on-line que imitam humanos. Para anunciantes digitais, a empresa criou o MediaGuard, uma solução de tecnologia de publicidade que usa ML na Human Defense Platform (Plataforma de Defesa Humana) para prever a validade das impressões de publicidade on-line quase em tempo real, em todos os canais e formatos digitais.

Como os bots on-line estão se tornando cada vez mais sofisticados, a HUMAN Security mantém requisitos rígidos de latência e precisão para o MediaGuard, e sua equipe de engenheiros itera continuamente os novos modelos de ML para melhorar seu desempenho. No entanto, quando a HUMAN Security lançou essa solução, o processo de treinamento de seus modelos de ML era totalmente manual e envolvia a execução de vários scripts e a cópia e colagem de configurações diferentes. Em muitos casos, a HUMAN Security levou semanas para implantar novos modelos de ML. “Queríamos economizar tempo humano”, diz Austin Leirvik, cientista de dados de funcionários, na HUMAN Security. “Queríamos criar um pipeline de dados completo que fizesse a preparação e extração de dados, o treinamento do modelo e a avaliação off-line do modelo, tudo com o apertar de um botão.”

Desde sua fundação em 2012, a HUMAN Security confiou na AWS para as soluções em nuvem e, em 2020, contratou a equipe da AWS para amadurecer seus recursos de ML. “Colaboramos a cada duas semanas”, diz Leirvik. “Recebemos muitos comentários sobre como automatizar nosso treinamento de modelos e vimos o SageMaker como uma ferramenta que poderíamos usar para resolver os problemas que estávamos enfrentando.

Além de contratar a equipe da AWS, a HUMAN Security também participou de várias oportunidades de treinamento por meio da AWS, incluindo Immersion Days da Rede de Parceiros da AWS, que são workshops para clientes ministrados por parceiros da AWS. Essas oportunidades de treinamento ajudaram a HUMAN Security a retreinar sua equipe e obter uma compreensão mais profunda do ciclo de vida do modelo de ML. A HUMAN Security também adotou o Snowflake Data Cloud, uma solução para armazenamento de dados, data lakes, engenharia e ciência de dados, desenvolvimento de aplicativos e compartilhamento de dados da Snowflake, uma parceira da AWS. A empresa usa essa solução para processar e armazenar suas tabelas de dados em escala. “Para executar um treinamento típico de modelo, estamos trabalhando com cerca de 50 milhões de pontos de dados”, afirma Leirvik. “Como podemos fazer nossa avaliação off-line em um conjunto de dados maior, temos uma visão a longo prazo muito maior, o que é muito bom.”

A empresa também começou a usar o AWS Glue, um serviço de integração de dados simples, escalável e sem servidor. A HUMAN Security usa o AWS Glue para seus trabalhos de extração e para preparar os dados para consultas. Depois que os dados são preparados, a HUMAN Security usa o SageMaker para criar, treinar e implantar novos modelos de ML. “Ao usar o Amazon SageMaker, reduzimos substancialmente o tempo necessário para treinar modelos de ML”, diz Leirvik. “Temos rastreabilidade e reprodutibilidade total em todos os nossos modelos.” Anteriormente, o treinamento de um novo modelo de ML para a HUMAN Security podia levar várias semanas. Agora, a empresa pode criar, treinar e implantar um novo modelo de ML em poucas horas.

Além disso, a HUMAN Security executa suas workloads usando instâncias M5 do Amazon Elastic Compute Cloud (Amazon EC2), que oferecem recursos balanceados de computação, memória e rede para workloads de uso geral. Desde a mudança para esse tipo de instância do Amazon EC2, a empresa aumentou sua economia de custos em 15% e pode agora escalar rapidamente a demanda. Essa escalabilidade ajuda a HUMAN Security a potencializar seus modelos de ML para validar a humanização de 15 trilhões de interações on-line todas as semanas. “Estamos muito satisfeitos com a escalabilidade e a confiabilidade das instâncias M5 do Amazon EC2”, diz Leirvik. “Conseguimos aumentar em cinco vezes a quantidade de dados com os quais estamos trabalhando.”

Para obter a automação total, a HUMAN Security configurou funções de etapa em todas as suas soluções da AWS definindo um conjunto de arquivos de configuração usando o Amazon States Language e adicionando esses arquivos ao seu repositório com o restante de sua base de código de ML. Sempre que uma alteração é feita em sua base de código, a empresa reimplanta automaticamente essas funções de etapa, o que reduz a complexidade de seus fluxos de trabalho. Essa automação ajudou a empresa a acelerar seu tempo de comercialização e aumentar a agilidade nos negócios. Com economia adicional de tempo, a HUMAN Security reorientou seus esforços no lançamento de novos recursos preditivos para o MediaGuard. “Usando a AWS, triplicamos nosso número de implantações em comparação com nosso processo anterior”, diz Leirvik. “Agora podemos reagir mais rapidamente quando surge um problema de performance.”

A HUMAN Security planeja aplicar seus conhecimentos desse projeto a outros modelos de ML em produção. Ela também continuará usando os serviços da AWS para uma ampla variedade de casos de uso em toda a empresa. “Trabalhar ao lado da equipe da AWS tem sido uma experiência muito positiva”, diz Leirvik. “A equipe da AWS nos ajudou a analisar o problema que estávamos enfrentando de uma nova maneira e nos manteve no ritmo certo para que tivéssemos sucesso.”