NerdWallet utilise le Machine Learning sur AWS pour alimenter une plateforme de recommandations

NerdWalletest une start-up spécialisée dans le financement personnel qui fournit des outils et des conseils permettant aux clients de rembourser facilement leurs dettes, de choisir les meilleurs produits et services financiers et de réaliser leurs principaux objectifs de vie, comme l'achat d'une maison ou l'épargne-retraite. L'entreprise s'appuie essentiellement sur la science des données et le machine learning (ML) pour mettre ses clients en contact avec des produits financiers personnalisés. « "Nous avons très vite compris que la science des données allait être essentielle pour créer un produit et une expérience utilisateur plus personnels », explique Ryan Kirkman, le directeur de l'ingénierie chez NerdWallet.

Lorsque l'équipe d'ingénieurs de la société a commencé à déployer ses premiers modèles ML pour la production, R. Kirkman et son équipe ont constaté que le processus prenait beaucoup plus de temps que prévu. Il faut des mois pour passer du prototype à la production et de nombreuses inefficacités sont apparues en cours de route », souligne-il.

À l'époque, les scientifiques des données de NerdWallet utilisaient une approche largement manuelle pour gérer les bibliothèques ML, ce qui n'était pas optimal du point de vue des coûts ou du flux de travail. «"Nos scientifiques des données ont dû installer les choses à la main et s'occuper de l'environnement que le dernier scientifique des données avait laissé sur la machine », explique Sharadh Krishnamurthy, ingénieur logiciel chez NerdWallet.

La société devait résoudre ses problèmes de plomberie technique, afin que ses scientifiques des données puissent entraîner plus efficacement les modèles ML, accélérer le processus de la conception à la distribution et se concentrer davantage sur les projets de grande valeur. « Plus vite nous pourrions envoyer les modèles en production, plus vite notre équipe de scientifiques des données pourrait itérer sur ces modèles et mieux nous pourrions améliorer notre expérience produit », déclare Kirkman. « La réduction de la boucle de rétroaction améliorerait considérablement notre capacité à exécuter des projets de science des données. »

NerdWallet étant une start-up, elle n'avait pas les ressources nécessaires pour réinventer la roue. « La question clé pour une start-up est de savoir comment ajouter de la valeur le plus rapidement possible. Nous voulions une plateforme de machine learning comme celle dont disposaient certaines grandes entreprises, mais nous n'étions pas en mesure d'investir beaucoup », se plaint Krishnamurthy.

NerdWallet utilisait déjà un certain nombre de solutions Amazon Web Services (AWS), notamment Amazon Elastic Compute Cloud (Amazon EC2) et Amazon Elastic Container Service (Amazon ECS). L’équipe décida d’ajouter Amazon SageMaker à l’ensemble. Grâce à ce service entièrement géré, la société pourrait exploiter les instances sous-jacentes Amazon EC2, y compris les instances Amazon EC2 P3 avec les GPU NVIDIA V100 Tensor Core, et son pipeline existant de création d'images Amazon ECS pour accélérer l’entraînement des modèles ML. « Amazon SageMaker nous a essentiellement fourni le machine learning en tant que service », affirme R. Kirkman.

L'adoption d'Amazon SageMaker a permis à NerdWallet de moderniser rapidement ses pratiques d'ingénierie des sciences des données. « Nous avons essentiellement débloqué la valeur ajoutée en deux mois », explique M. Kirkman. « Cela n'aurait pas été possible autrement. »

La nouvelle solution a également permis à l'entreprise de supprimer les obstacles et à accélérer les délais de distribution. « Amazon SageMaker permet à nos scientifiques des données de devenir facilement les principaux propriétaires et conducteurs de leur travail, plutôt que d'avoir de multiples transferts et de devoir tout réimplanter », affirme R. Kirkman. « Nous proposons un cheminement guidé qui facilite la résolution de ces problèmes d'infrastructure environnants du point de vue de la plateforme et de l'ingénierie, tout en accélérant le travail de nos scientifiques des données. C’est une situation gagnant-gagnant. »

Le premier projet de NerdWallet tirant parti de la nouvelle approche était une plateforme de recommandations optimisée par TensorFlow. Auparavant, NerdWallet fournissait aux clients une liste de cartes de crédit potentielles, mais l’entreprise n'avait aucun moyen de prévoir la probabilité d'acceptation. Maintenant, grâce à Amazon SageMaker et au machine learning, l'entreprise peut plus efficacement mettre en relation les clients avec les produits financiers qui leur conviennent.

L'utilisation des instances Amazon SageMaker et Amazon EC2 P3 avec les GPU NVIDIA V100 Tensor Core a également amélioré la flexibilité et les performances de NerdWallet et accélérer l’entraînement des modèles ML par les scientifiques des données. « Avant, il nous fallait des mois pour lancer et itérer sur les modèles. Maintenant, il ne nous faut plus que quelques jours », se réjouit R.. Kirkman.

Grâce à Amazon SageMaker les scientifiques des données de NerdWallet peuvent consacrer plus de temps aux activités stratégiques. « Nous pouvons désormais concentrer davantage d'énergie là où se trouve notre avantage concurrentiel, c'est-à-dire sur les problèmes que nous résolvons pour nos utilisateurs. »

Par exemple, NerdWallet est en train de créer un système de stockage d'inférences qui permettra aux équipes d'accéder et d'utiliser facilement les données de prédiction que les scientifiques des données produisent dans d'autres secteurs de l'entreprise. « Je ne pense pas que nous aurions pu faire l'analyse de rentabilité de ce système sans avoir le flux de travail rationalisé pour l’entraînement dont disposent nos scientifiques des données maintenant », indique R. Kirkman. « Cela aurait été trop cher, trop risqué. » En simplifiant le flux de travail et en permettant la normalisation, nous débloquons beaucoup plus de valeur. »

Amazon SageMaker aide également NerdWallet à maîtriser les coûts. Comme l'entreprise peut payer à l'utilisation plutôt que de payer sans fin pour que l'infrastructure fonctionne, les dépenses ne sont effectives que lorsque des ressources de calcul sont nécessaires. Nous avons pu réduire nos coûts d’entraînement d'environ 75 %, même en augmentant le nombre de modèles entraînés », assure R. Kirkman. « Nous pouvons le faire parce que nous sommes passés d'un modèle de fonctionnement d'une seule grande instance Amazon EC2 24 heures sur 24 et 7 jours sur 7 à un modèle de fonctionnement impliquant n’importe quel type d'instance dont nous avons besoin via Amazon SageMaker à la demande. »

La construction de sa plateforme ML sur Amazon SageMaker signifie également que la petite équipe informatique de NerdWallet peut immédiatement profiter des avancées du secteur. « Du point de vue de l'infrastructure et de la technologie, l'utilisation d'Amazon SageMaker nous permet de faire progresser considérablement les efforts, les caractéristiques et les fonctionnalités de notre plateforme de machine learning », explique R. Kirkman. « Et en travaillant avec AWS, nous arrivons effectivement à nous tenir sur les épaules des géants. »

L'utilisation du machine learning et d’Amazon SageMaker représente un changement dans la manière dont NerdWallet exploite la technologie pour se différencier sur un marché des services financiers encombré et concurrentiel. À l'avenir, R. Kirkman et son équipe prévoient de continuer à utiliser la technologie pour offrir des services à valeur ajoutée. « Aider les clients à prendre toutes sortes de décisions financières et être en phase avec le consommateur sont des facteurs clés de différenciation pour nous », insiste R. Kirkman. « "L'utilisation de la science des données et du machine learning nous aide à doubler cet effort. »

Pour en savoir plus, consultez le site aws.amazon.com/sagemaker.