NerdWallet verwendet Machine Learning auf AWS für Empfehlungsplattform

NerdWallet ist ein Start-up für die private Finanzplanung, das Tools und Beratung anbietet, die Kunden helfen, Schulden zu bezahlen, die besten Finanzprodukte und -dienstleistungen zu wählen und wichtige Lebensziele wie den Kauf eines Hauses oder das Sparen für die Rente zu erreichen. Das Unternehmen verlässt sich umfassend auf Datenwissenschaft und Machine Learning (ML), um Kunden individuelle Finanzprodukte zu empfehlen. „Wir haben früh erkannt, dass Data Science für den Aufbau eines persönlicheren Produkts und Benutzererlebnisses unerlässlich sein würde“, sagt Ryan Kirkman, Senior Engineering Manager bei NerdWallet.

Als das Technikteam des Unternehmens begann, seine ersten ML-Modelle in die Produktion zu überführen, stellten Kirkman und sein Team fest, dass der Prozess viel länger dauerte als erwartet. Er sagt: „Es hätte Monate gedauert, um vom Prototyp zur Produktion zu gelangen, und auf dem Weg dorthin waren zahlreiche Ineffizienzen zu bewältigen.“

Damals verwendeten die Datenwissenschaftler von NerdWallet einen überwiegend manuellen Ansatz zur Verwaltung von ML-Bibliotheken, was aus Kosten- oder Workflow-Perspektive nicht optimal war. „Unsere Datenwissenschaftler mussten Dinge von Hand installieren und die Umgebung nutzen, die der vorherige Datenwissenschaftler auf dem Gerät hinterlassen hatte“, sagt Sharadh Krishnamurthy, Staff Software Engineer bei NerdWallet.

Das Unternehmen musste seine technischen Probleme lösen, damit seine Datenwissenschaftler ML-Modelle effektiver trainieren, den Prozess vom Konzept bis zur Bereitstellung beschleunigen und sich besser auf wichtigere Projekte konzentrieren konnten. „Je schneller wir Modelle in die Produktion überführen konnten, desto schneller konnte unser Data-Science-Team über diese Modelle iterieren und desto besser konnten wir unser Produkterlebnis gestalten“, sagt Kirkman. „Die Reduzierung der Feedbackschleife würde unsere Fähigkeit, Data-Science-Projekte auszuführen, deutlich verbessern.“

Als Start-up verfügte NerdWallet nicht über die Ressourcen, um das Rad neu zu erfinden. „Die Schlüsselfrage für ein Start-up ist ‚Wie können wir am schnellsten einen geschäftlichen Mehrwert schaffen?‘ Wir wollten eine Plattform für Machine Learning, wie sie einige große Unternehmen hatten, aber wir waren nicht in der Lage, viel darin zu investieren“, sagt Krishnamurthy.

NerdWallet nutzte bereits eine Reihe von Amazon Web Services-Lösungen (AWS), darunter Amazon Elastic Compute Cloud (Amazon EC2) und Amazon Elastic Container Service (Amazon ECS). Das Team entschied sich, Amazon SageMaker einzusetzen. Mit diesem vollständig verwalteten Service konnte das Unternehmen zugrundeliegende Amazon EC2-Instances, einschließlich Amazon EC2 P3-Instances mit NVIDIA V100 Tensor Core-GPUs, und seine bestehende Amazon ECS-Pipeline zur Bilderstellung nutzen, um die Zeit für das Trainieren von ML-Modellen zu reduzieren. „Amazon SageMaker bot uns im Grunde Machine Learning as a Service“, sagt Kirkman.

Durch die Einführung von Amazon SageMaker konnte NerdWallet seine Data-Science-Engineering-Praktiken schnell modernisieren. „Wir konnten innerhalb von zwei Monaten einen geschäftlichen Mehrwert freisetzen“, sagt Kirkman. „Das wäre sonst nicht möglich gewesen.“

Die neue Lösung half dem Unternehmen auch, Hindernisse aus dem Weg zu räumen und die Zeit bis zur Auslieferung zu verkürzen. „Amazon SageMaker erleichtert es unseren Datenwissenschaftlern, die Haupteigentümer und Impulsgeber ihrer Arbeit zu werden, anstatt mehrere Übergaben zu haben und alles neu implementieren zu müssen“, so Kirkman. „Wir bieten einen geführten Pfad, der das Lösen dieser umgebenden Infrastrukturprobleme aus einer Plattform- und Engineering-Perspektive einfacher macht und gleichzeitig die Arbeit unserer Datenwissenschaftler beschleunigt. Das ist eine Win-Win-Situation.“

Das erste Projekt von NerdWallet, das den neuen Ansatz nutzt, war eine Empfehlungsplattform, die auf TensorFlow basiert. Zuvor stellte NerdWallet seinen Kunden eine Liste möglicher Kreditkarten zur Verfügung, hatte aber keine Möglichkeit, die Wahrscheinlichkeit der Akzeptanz zu prognostizieren. Jetzt kann das Unternehmen mithilfe von Amazon SageMaker und Machine Learning seinen Kunden effektiver die passenden Finanzprodukte anbieten.

Der Einsatz von Amazon SageMaker und Amazon EC2 P3-Instances mit NVIDIA V100 Core-GPUs hat die Flexibilität und Performance von NerdWallet verbessert. Darüber hinaus unterstützt sie Datenwissenschaftler, ML-Modelle schneller zu trainieren. „Früher haben wir Monate gebraucht, um Modelle einzuführen und zu duplizieren. Heute brauchen wir dafür nur noch wenige Tage“, so Kirkman.

Amazon SageMaker hat es den Datenwissenschaftlern von NerdWallet ermöglicht, mehr Zeit auf strategische Aufgaben zu verwenden. Kirkman sagt: „Wir können uns jetzt mehr darauf konzentrieren, wo unser Wettbewerbsvorteil liegt: in unseren Erkenntnissen zu den Problemen, die wir für unsere Kunden lösen.“

Zum Beispiel baut NerdWallet jetzt ein Inferenzspeichersystem auf, das es den Teams ermöglicht, einfach auf Vorhersagen zuzugreifen, die von Datenwissenschaftlern in anderen Bereichen des Unternehmens erstellt werden, und diese zu nutzen. „Ich glaube nicht, dass wir dieses System hätten rechtfertigen können, ohne den optimierten Workflow für das Training zu haben, den unsere Datenwissenschaftler jetzt haben“, sagt Kirkman. „Es wäre zu teuer und zu riskant gewesen. Die Straffung des Workflows und die Standardisierung bringen uns viel mehr Nutzen.“

Amazon SageMaker hilft NerdWallet auch bei der Kostenkontrolle. Da das Unternehmen pro Nutzung zahlen kann, anstatt für eine Infrastruktur zu bezahlen, die endlos läuft, fallen nur dann Ausgaben an, wenn Rechenressourcen benötigt werden. „Wir konnten unsere Trainingskosten um etwa 75 % senken, obwohl wir die Anzahl der geschulten Modelle erhöht haben“, so Kirkman. „Das ist möglich, weil wir von einem Modell, bei dem eine einzige große Amazon EC2-Instance rund um die Uhr läuft, dazu übergegangen sind, jeden erforderlichen Instance-Typ über Amazon SageMaker auf Abruf auszuführen.“

Der Aufbau der ML-Plattform auf Amazon SageMaker bedeutet auch, dass das kleine IT-Team von NerdWallet sofort von den Fortschritten der Branche profitieren kann. „Aus einer Infrastruktur- und Technologieperspektive ermöglicht uns Amazon SageMaker, unsere Bemühungen um die Plattform für Machine Learning, ihre Features und ihre Funktionen erheblich zu verbessern“, so Kirkman. „Außerdem können wir durch die Zusammenarbeit mit AWS im Endeffekt auf den Schultern von Giganten stehen.“

Der Einsatz von Machine Learning und Amazon SageMaker stellt eine Veränderung in der Art und Weise dar, wie NerdWallet Technologie einsetzt, um sich in einem überfüllten und wettbewerbsintensiven Finanzdienstleistungsmarkt zu differenzieren. Für die Zukunft planen Kirkman und sein Team, weiterhin Technologien zu nutzen, um Dienstleistungen mit Mehrwert anzubieten. „Kunden bei jeder Art von Finanzentscheidung zu helfen und auf den Verbraucher ausgerichtet zu sein, sind für uns wichtige Unterscheidungsmerkmale“, so Kirkman. „Der Einsatz von Data Science und Machine Learning hilft uns dabei, diese Bemühungen zu intensivieren.“

Weitere Informationen erhalten Sie unter aws.amazon.com/sagemaker.