HUMAN Security accélère l'entraînement en ML et les délais de commercialisation grâce à Amazon SageMaker

HUMAN Security utilise une stratégie de défense moderne, qui inclut les perturbations, l'effet réseau et la visibilité sur Internet, pour déstabiliser l'économie de la cybercriminalité. Via une large gamme de solutions de cybersécurité, elle aide les entreprises de tous les secteurs à renforcer la sécurité de leur présence numérique en protégeant leurs actifs numériques contre la fraude et les robots en ligne imitant les humains. Pour les annonceurs numériques, la société a créé MediaGuard, une solution de technologie publicitaire qui utilise le ML dans la plateforme Human Defense pour prédire la validité des annonces publicitaires en ligne en temps quasi réel sur tous les canaux et formats numériques.

Les robots en ligne étant de plus en plus sophistiqués, HUMAN Security impose des exigences strictes en matière de latence et de précision à MediaGuard, et son équipe d'ingénieurs élabore continuellement de nouveaux modèles de ML pour améliorer ses performances. Cependant, lorsque HUMAN Security a déployé cette solution, le processus d'entraînement de ses modèles de ML, entièrement manuel, impliquait l'exécution d'un certain nombre de scripts et le copier-coller de différentes configurations. HUMAN Security a souvent mis des semaines à déployer de nouveaux modèles de ML. « Nous voulions faire gagner du temps aux humains », explique Austin Leirvik, scientifique des données chez HUMAN Security. « Nous cherchions à mettre en place un pipeline de données complet qui permettrait la préparation et l'extraction des données, l'entraînement des modèles ainsi que l'évaluation hors ligne des modèles, le tout en appuyant simplement sur un bouton. »

Depuis sa création en 2012, HUMAN Security s'appuie sur AWS pour ses solutions cloud et, en 2020, elle a fait appel à l'équipe AWS pour développer ses capacités de ML. « Nous avons collaboré toutes les deux semaines, explique Austin Leirvik. Nous avons reçu de nombreux commentaires sur la manière dont nous pourrions automatiser l'entraînement de nos modèles, et SageMaker s'est imposé comme un outil utile pour résoudre les problèmes auxquels nous étions confrontés. »

HUMAN Security a fait appel à l'équipe AWS, mais elle a également participé à de nombreuses opportunités de formation via AWS, notamment des journées d'immersion dans le réseau de partenaires AWS, qui sont des ateliers clients organisés par des partenaires AWS. Ces opportunités de formation ont permis à HUMAN Security d'améliorer les compétences de son personnel et de mieux comprendre le cycle de vie des modèles de ML. HUMAN Security a également adopté Snowflake Data Cloud, une solution d'entreposage de données, de lacs de données, d'ingénierie des données, de science des données, de développement d'applications de données et de partage de données proposée par Snowflake, un partenaire AWS. L'entreprise utilise cette solution pour traiter et stocker ses tables de données à grande échelle. « Pour un modèle d'entraînement type, nous travaillons avec environ 50 millions de points de données, explique Austin Leirvik. Grâce à la possibilité d'effectuer notre évaluation hors ligne sur un plus grand jeu de données, nous avons une vision beaucoup plus large de la longue traîne, ce qui est vraiment appréciable. »

L'entreprise a également commencé à utiliser AWS Glue, un service d'intégration de données simple, évolutif et sans serveur. HUMAN Security utilise AWS Glue pour ses tâches d'extraction et pour préparer ses données à des fins d'interrogation. Une fois les données préparées, HUMAN Security utilise SageMaker pour créer, entraîner et déployer de nouveaux modèles de ML. « En utilisant Amazon SageMaker, nous avons considérablement réduit le temps nécessaire à l'entraînement des modèles de ML, explique Austin Leirvik. Nous disposons d'une traçabilité et d'une reproductibilité complètes sur tous nos modèles. » Auparavant, l'entraînement d'un nouveau modèle de ML pouvait prendre plusieurs semaines à HUMAN Security. Désormais, l'entreprise peut créer, entraîner et déployer un nouveau modèle de ML en quelques heures.

En outre, HUMAN Security exécute ses charges de travail à l'aide d'instances M5 Amazon Elastic Compute Cloud (Amazon EC2), qui offrent des ressources de calcul, de mémoire et de réseau équilibrées pour les charges de travail à usage général. Depuis le passage à ce type d'instance Amazon EC2, l'entreprise a augmenté ses économies de 15 % et peut rapidement faire évoluer la demande. Cette capacité de mise à l'échelle permet à HUMAN Security de renforcer ses modèles de ML afin de valider le caractère humain de 15 billions d'interactions en ligne chaque semaine. « Nous sommes très satisfaits de la capacité de mise à l'échelle et de la fiabilité des instances Amazon EC2 M5, déclare Austin Leirvik. Nous avons pu multiplier par cinq la quantité de données avec lesquelles nous travaillons. »

Pour parvenir à une automatisation complète, HUMAN Security a mis en place des Step Functions dans toutes ses solutions AWS en définissant un ensemble de fichiers de configuration à l'aide du langage Amazon States Language et en ajoutant ces fichiers à son référentiel avec le reste de sa base de code ML. Chaque fois qu'une modification est apportée à sa base de code, l'entreprise redéploie automatiquement ces Step Functions, ce qui a réduit la complexité de ses flux de travail. Cette automatisation a permis à l'entreprise d'accélérer ses délais de mise sur le marché et d'améliorer son agilité commerciale. Grâce à des gains de temps supplémentaires, HUMAN Security a recentré ses efforts sur le lancement de nouvelles fonctionnalités prédictives pour MediaGuard. « Grâce à AWS, nous avons triplé le nombre de déploiements par rapport à notre processus précédent, explique Austin Leirvik. Nous pouvons désormais réagir plus rapidement lorsque nous constatons l'apparition d'un problème de performance. »

HUMAN Security prévoit d'appliquer les leçons tirées de ce projet à d'autres modèles de ML en production. Elle continuera également à utiliser les services AWS pour une grande variété de cas d'utilisation au sein de l'entreprise. « Travailler aux côtés de l'équipe AWS a été une expérience très positive, déclare Austin Leirvik. L'équipe AWS nous a aidés à aborder le problème auquel nous étions confrontés d'une nouvelle manière et à rester sur la bonne voie pour réussir. »