HUMAN Security accelera l'addestramento del machine learning e il time-to-market utilizzando Amazon SageMaker

HUMAN Security utilizza una strategia di difesa moderna, che include interruzioni, effetti di rete e visibilità su Internet, per sconvolgere l'economia del crimine informatico. Aiuta le aziende di tutti i settori ad aumentare la sicurezza della loro presenza digitale offrendo un'ampia gamma di soluzioni di sicurezza informatica che aiutano le aziende a proteggere le proprie risorse digitali da frodi e bot online che imitano gli esseri umani. Per gli inserzionisti digitali, l'azienda ha creato MediaGuard, una soluzione di tecnologia pubblicitaria che utilizza il machine learning nella piattaforma Human Defense per prevedere la validità delle impressioni pubblicitarie online quasi in tempo reale su tutti i canali e formati digitali.

Poiché i bot online stanno diventando sempre più sofisticati, HUMAN Security mantiene severi requisiti di latenza e precisione per MediaGuard e il suo team di ingegneri itera continuamente nuovi modelli di ML per migliorarne le prestazioni. Tuttavia, quando HUMAN Security ha implementato questa soluzione, il processo di addestramento dei suoi modelli di ML era interamente manuale e prevedeva l'esecuzione di una serie di script e il copia e incolla di diverse configurazioni. In molti casi, HUMAN Security ha impiegato settimane per implementare nuovi modelli di ML. "Volevamo risparmiare tempo umano", ha affermato Austin Leirvik, data scientist dello staff di HUMAN Security. "Stavamo cercando di creare una pipeline di dati completa che effettuasse la preparazione dei dati, la loro estrazione, l'addestramento dei modelli e la valutazione offline dei modelli con la semplice pressione di un pulsante".

Sin dalla sua fondazione nel 2012, HUMAN Security si è affidata ad AWS per le soluzioni cloud e nel 2020 ha ingaggiato il team AWS per far maturare le sue capacità di machine learning. "Abbiamo collaborato ogni 2 settimane", ha affermato Leirvik. "Abbiamo ricevuto numerosi feedback su come automatizzare l'addestramento dei nostri modelli e abbiamo visto SageMaker come uno strumento che potevamo usare per risolvere i problemi che stavamo affrontando".

HUMAN Security ha coinvolto il team AWS ma ha anche partecipato a diverse opportunità di formazione tramite AWS, tra cui le Giornate immersive AWS Partner Network (APN), che sono workshop per i clienti tenuti dai partner AWS. Queste opportunità di formazione hanno aiutato HUMAN Security a migliorare le competenze del personale e ad acquisire una comprensione più profonda del ciclo di vita del modello di ML. HUMAN Security ha inoltre adottato Snowflake Data Cloud, una soluzione per il data warehousing, i data lake, l'ingegneria dei dati, il data science, lo sviluppo di applicazioni dati e la condivisione dei dati di Snowflake, un partner AWS. L'azienda utilizza questa soluzione per elaborare e archiviare le proprie tabelle di dati su larga scala. "Per una tipica sessione di addestramento del modello, lavoriamo con circa 50 milioni di punti dati", ha affermato Leirvik. "Poiché possiamo eseguire la nostra valutazione offline su un set di dati più ampio, abbiamo un quadro molto più ampio della coda lunga, il che è davvero fantastico".

L'azienda ha anche iniziato a utilizzare AWS Glue, un servizio di integrazione dei dati semplice, scalabile e serverless. HUMAN Security utilizza AWS Glue per i suoi processi di estrazione e per preparare i dati per le interrogazioni. Una volta preparati i dati, HUMAN Security utilizza SageMaker per creare, addestrare e distribuire nuovi modelli di ML. "Grazie ad Amazon SageMaker, abbiamo ridotto notevolmente il tempo necessario per addestrare i modelli di machine learning", ha dichiarato Leirvik. "Ora abbiamo una tracciabilità e una riproducibilità complete per tutti i nostri modelli". In passato, l'addestramento di un nuovo modello di ML poteva richiedere diverse settimane. Ora, l'azienda può creare, addestrare e implementare un nuovo modello di machine learning in poche ore.

Inoltre, HUMAN Security esegue i propri carichi di lavoro utilizzando le istanze M5 di Amazon Elastic Compute Cloud (Amazon EC2), che offrono risorse bilanciate di elaborazione, memoria e rete per carichi di lavoro generici. Da quando è passata a questo tipo di istanza Amazon EC2, l'azienda ha aumentato i risparmi sui costi del 15% ed è ora in grado di scalare rapidamente la domanda. Questa scalabilità aiuta HUMAN Security a potenziare i suoi modelli di ML per convalidare l'umanità di 15 trilioni di interazioni online ogni settimana. "Siamo rimasti molto soddisfatti della scalabilità e dell'affidabilità delle istanze M5 di Amazon EC2", ha dichiarato Leirvik. "Siamo stati in grado di aumentare di cinque volte la quantità di dati con cui lavoriamo".

Per ottenere la completa automazione, HUMAN Security ha impostato funzioni graduali in tutte le sue soluzioni AWS definendo un set di file di configurazione grazie ad Amazon States Language e aggiungendo tali file al suo repository con il resto della sua base di codice di ML. Ogni volta che viene apportata una modifica alla sua base di codice, l'azienda reimplementa automaticamente tali funzioni, riducendo in questo modo la complessità dei flussi di lavoro. Tale automazione ha aiutato ad accelerare il time-to-market e a migliorare l'agilità aziendale. Con un ulteriore risparmio di tempo, HUMAN Security ha riorientato i propri sforzi sul rilascio di nuove funzionalità predittive per MediaGuard. "Grazie ad AWS, abbiamo triplicato il numero di implementazioni rispetto al nostro processo precedente", ha affermato Leirvik. "Ora siamo in grado di reagire più rapidamente quando vediamo emergere un problema di prestazioni".

HUMAN Security intende applicare quanto appreso da questo progetto ad altri modelli di ML che ha in produzione. Continuerà inoltre a utilizzare i servizi AWS per un'ampia varietà di casi d'uso in tutta l'azienda. "Lavorare a fianco del team AWS è stata un'esperienza molto positiva", ha affermato Leirvik. "Il team AWS ci ha aiutato a guardare al problema che stavamo affrontando in un modo nuovo e ci ha tenuto al passo con i tempi necessari per la riuscita del progetto".