NerdWallet sfrutta il machine learning su AWS per promuovere una piattaforma per le raccomandazioni

NerdWallet è una start-up di finanza personale che fornisce strumenti e consigli ai suoi clienti per estinguere facilmente i debiti, scegliere i migliori prodotti e servizi finanziari e portare a termine grandi obiettivi, come comprare una casa o risparmiare per la pensione. L'azienda si basa principalmente su processi di data science e machine learning (ML) per fornire ai clienti prodotti finanziari personalizzati. “Ci siamo presto accorti che la data science sarebbe stata fondamentale per la creazione di un prodotto e di un’esperienza utente più personali”, afferma Ryan Kirkman, senior engineering manager di NerdWallet.

Quando il team di progettazione dell’azienda ha iniziato a inviare i suoi primi modelli di ML in produzione, Kirkman e il suo team hanno scoperto che si trattava di un processo molto più lento del previsto. Come racconta: “Ci sarebbero voluti mesi per passare dal prototipo alla produzione, con numerose inefficienze lungo il percorso.”

All’epoca, i data scientist di NerdWallet adottavano un approccio principalmente manuale per la gestione delle librerie ML, che non era ottimale dal punto di vista dei costi o del flusso di lavoro. “I nostri data scientist dovevano effettuare l’installazione manualmente e gestire l’ambiente che il data scientist precedente aveva lasciato sulla macchina”, dice Sharadh Krishnamurthy, staff software engineer di NerdWallet.

L’azienda aveva bisogno di risolvere questi problemi di gestione della progettazione in modo da permettere ai data scientist di addestrare i modelli ML in maniera più efficace, di velocizzare il processo dall’ideazione alla realizzazione, e di concentrarsi maggiormente su progetti a valore più elevato. “Velocizzando l’invio dei modelli alla produzione, il nostro team di data science è riuscito a ripetere tali modelli più rapidamente e siamo riusciti a migliorare la nostra esperienza prodotto”, afferma Kirkman. “Riducendo il circuito del feedback, abbiamo decisamente migliorato la nostra capacità di esecuzione relativamente ai progetti di data science.”

Essendo una startup, NerdWallet non aveva le risorse necessarie per reinventare la ruota. “La questione chiave per una startup è ‘come possiamo aggiungere valore aziendale nel minor tempo possibile?’ Volevamo una piattaforma di machine learning come le grandi aziende, ma non eravamo nelle condizioni di fare grandi investimenti”, racconta Krishnamurthy.

NerdWallet stava già utilizzando alcune soluzioni di Amazon Web Services (AWS), tra cui Amazon Elastic Compute Cloud (Amazon EC2) eAmazon Elastic Container Service (Amazon ECS). Il team ha deciso di aggiungere anche Amazon SageMaker. Con questo servizio completamente gestito, l’azienda è stata in grado di sfruttare le istanze sottostanti Amazon EC2, tra cui leistanze P3 di Amazon EC2 con i GPU Tensor Core V100 NVIDIA e la sua pipeline esistente di costruzione immagini Amazon ECS per ridurre il tempo impiegato per addestrare i modelli ML. “Amazon Sagemaker praticamente ci ha fornito il machine learning come servizio”, dice Kirkman.

L’adozione di Amazon Sagemaker ha permesso a NerdWallet di modernizzare rapidamente le proprie pratiche di progettazione di data science. “Praticamente abbiamo generato valore aziendale in due mesi”, commenta Kirkman. “Non sarebbe stato possibile altrimenti.”

La nuova soluzione inoltre ha permesso all’azienda di rimuovere gli ostacoli e velocizzare i tempi di realizzazione. “Amazon Sagemaker consente ai nostri data scientist di prendere in mano il proprio lavoro e di controllarlo, invece di dover gestire molteplici passaggi di consegna e implementare nuovamente tutto”, dice Kirkman. “Stiamo offrendo un percorso guidato che rende più semplice la risoluzione di questi problemi relativi all’infrastruttura circostante dal punto di vista della piattaforma e della progettazione, accelerando al contempo il lavoro dei nostri data scientist. È una soluzione vantaggiosa per tutti.”

Il primo progetto di NerdWallet che prevede l’uso di questo nuovo approccio è stata una piattaforma di raccomandazioni gestita da TensorFlow. In precedenza, NerdWallet forniva ai clienti un elenco di potenziali carte di credito, ma non poteva prevederne la probabilità di accettazione. Ora, utilizzando Amazon Sagemaker e il machine learning, l’azienda è riuscita ad associare più efficacemente i clienti ai prodotti finanziari più adatti a loro.

L'utilizzo di Amazon SageMaker e delle istanze P3 di Amazon EC2 con GPU Tensor Core V100 NVIDIA ha inoltre migliorato la flessibilità e le prestazioni di NerdWallet e ridotto il tempo necessario ai data scientist per addestrare modelli di ML. "Avevamo bisogno di mesi per lanciare e iterare i modelli, mentre ora è questione di giorni", sottolinea Kirkman.

Amazon Sagemaker ha permesso ai data scientist di NerdWallet di dedicare più tempo agli obiettivi strategici. Kirkman commenta: “Ora possiamo dedicare più energia a quello che è il nostro vantaggio competitivo: le informazioni sui problemi che stiamo risolvendo per i nostri utenti.”

Ad esempio, NerdWallet ora sta costruendo un sistema di archiviazione delle inferenze che consentirà ai team di accedere facilmente alle previsioni che i dati scientist stanno producendo in altre aree dell’azienda e utilizzarle. “Non penso che saremmo stati adatti a questo sistema senza aver prima snellito il flusso di lavoro per l’addestramento di cui ora beneficiano i nostri data scientist”, afferma Kirkman. “Sarebbe stato troppo costoso e rischioso. La razionalizzazione del flusso di lavoro e la possibilità di standardizzare ci conferiscono molto più valore.”

Amazon SageMaker inoltre aiuta NerdWallet a tenere i costi sotto controllo. Dato che l’azienda può pagare per ogni utilizzo invece di mantenere un’infrastruttura a tempo indeterminato, si trova a sostenere delle spese solo quando sono necessarie risorse di calcolo. “Siamo riusciti a ridurre i nostri costi di addestramento di circa il 75 per cento, anche con l’incremento del numero di modelli addestrati”, osserva Kirkman. “Lo possiamo fare solo perché siamo passati da un modello che prevedeva l’esecuzione di un’unica grande istanza Amazon EC2 24 ore su 24, 7 giorni su 7, all’esecuzione di qualsiasi tipo di istanza di cui necessitiamo tramite Amazon SageMaker dietro richiesta.”

La costruzione della propria piattaforma ML su Amazon SageMaker ha inoltre permesso al piccolo team IT di NerdWallet di trarre immediato vantaggio dai progressi del settore. “Dal punto di vista dell’infrastruttura e della tecnologia, con Amazon Sagemaker, riusciamo a migliorare notevolmente le iniziative, le caratteristiche e la funzionalità della nostra piattaforma di machine learning”, spiega Kirkman. “E lavorando con AWS, ci sentiamo veramente come se fossimo sulle spalle di un gigante.”

L’uso del machine learning e di Amazon SageMaker segna un grande cambiamento nel modo in cui NerdWallet sfrutta la tecnologia per differenziarsi in un mercato affollato e competitivo come quello dei servizi finanziari. Per il futuro, Kirkman e il suo team hanno in programma di continuare a usare la tecnologia per offrire servizi a valore aggiunto. “La capacità di assistere i clienti in ogni tipo di decisione finanziaria e di allinearci cliente sono le caratteristiche chiave con cui ci differenziamo”, dice Kirkman. “L’uso della data science e del machine learning ci permette di moltiplicare queste capacità.”

Per ulteriori informazioni visita aws.amazon.com/sagemaker.