Übersicht Preise Häufig gestellte Fragen Kunden

Beschleunigen Sie die Entwicklung generativer KI mit Amazon SageMaker AI und MLflow

Verwalten Sie den Machine-Learning-Lebenszyklus und den der generativen KI in großem Maßstab mit MLflow 3.0

Warum Amazon SageMaker mit MLflow verwenden?

Amazon SageMaker bietet eine verwaltete MLflow-Funktion für Machine Learning (ML)- und generative KI-Experimente. Diese Funktion erleichtert es Datenwissenschaftlerinnen und -wissenschaftlern, MLflow in SageMaker für Modelltraining, Registrierung und Bereitstellung zu verwenden. Administrierende können schnell sichere und skalierbare MLflow-Umgebungen in AWS einrichten. Datenwissenschaftlerinnen und -wissenschaftler sowie ML-Entwickelnde können ML-Experimente effizient verfolgen und das richtige Modell für ein Geschäftsproblem finden.

Vorteile von Amazon SageMaker AI mit MLflow 3.0

Effizient mit Basismodellen (FMs) experimentieren

Datenwissenschaftlerinnen und -wissenschaftler können MLflow verwenden, um den Überblick über alle Metriken zu behalten, die bei der Feinabstimmung eines Basismodells generiert wurden, das Modell zu evaluieren, das Modell mit Beispieldaten zu testen, die Ergebnisse der einzelnen Modelle auf der MLflow-Benutzeroberfläche nebeneinander zu vergleichen und das richtige Modell für ihren Anwendungsfall zu registrieren. Sobald sie das Modell registriert haben, können ML-Ingenieurinnen und -ingenieure das Modell für die SageMaker-Inferenz bereitstellen.

Keine Infrastrukturwartung

Sie müssen keine Infrastruktur verwalten, die zum Hosten von MLflow erforderlich ist. Datenwissenschaftlerinnen und -wissenschaftler können alle Open-Source-Funktionen von MLflow nutzen, ohne dass sich Administrierende Gedanken über den Infrastrukturaufwand machen müssen. Das spart Zeit und Kosten bei der Einrichtung von Datenwissenschaftsumgebungen. MLflow ist in Amazon Identity and Access Management (IAM) integriert, sodass Sie die rollenbasierte Zugriffskontrolle (RBAC) für MLflow-Tracking-Server einrichten können.

Reibungsloser Übergang von Modellexperimenten zur Produktion

In MLflow registrierte Modelle werden automatisch mit einer zugehörigen Amazon SageMaker Model Card in der Amazon SageMaker Model Registry registriert. Auf diese Weise können Datenwissenschaftlerinnen und -wissenschaftler ihre Modelle für den Produktionseinsatz an ML-Ingenieurinnen und -ingenieure weitergeben, ohne den Kontext wechseln zu müssen. ML-Ingenieurinnen und -ingenieure können Modelle von MLflow auf SageMaker-Endpunkten bereitstellen, ohne benutzerdefinierte Container zu erstellen oder die MLflow-Modellartefakte neu zu verpacken.

Mit der Open-Source-Community innovieren

Während sich das MLflow-Projekt weiterentwickelt, profitieren Kundinnen und Kunden von SageMaker AI von der Open-Source-Innovation der MLflow-Community und genießen gleichzeitig das von AWS bereitgestellte Infrastrukturmanagement.

Erweiterte Rückverfolgungsfunktionen

Die Rückverfolgungsfunktionen in der vollständig verwalteten Version MLflow 3.0 ermöglichen es Kunden, die Eingaben, Ausgaben und Metadaten in jedem Schritt der Entwicklung generativer KI aufzuzeichnen, damit Teams die Ursache von Fehlern oder unerwarteten Verhaltensweisen schnell identifizieren können. Durch die Aufzeichnung aller Modelle und Anwendungsversionen bietet das vollständig verwaltete MLflow 3.0 Rückverfolgbarkeit, um KI-Antworten mit ihren Quellkomponenten zu verknüpfen. So können Entwickler ein Problem schnell direkt zu dem spezifischen Code, den Daten oder den Parametern zurückverfolgen, die es verursacht haben.

Experimente von überall aus verfolgen

ML-Experimente werden in verschiedenen Umgebungen durchgeführt, einschließlich lokaler Notebooks, IDEs, cloudbasiertem Trainingscode oder verwalteten IDEs in Amazon SageMaker Studio. Mit SageMaker AI und MLflow können Sie Ihre bevorzugte Umgebung verwenden, um Modelle zu trainieren, Ihre Experimente in MLflow zu verfolgen und die MLflow-Benutzeroberfläche direkt oder über SageMaker Studio zur Analyse zu starten.

Entwicklung generativer KI mit MLflow 3.0 beschleunigen

Die Erstellung von Fundamentmodellen ist ein iterativer Prozess, der Hunderte von Trainingsiterationen umfasst, um den besten Algorithmus, die beste Architektur und die besten Parameter für eine optimale Modellgenauigkeit zu finden. Mit dem vollständig verwalteten MLflow 3.0 können Sie Experimente mit generativer KI verfolgen, die Modellleistung bewerten und tiefere Einblicke in das Verhalten von Modellen und KI-Anwendungen vom Experiment bis zur Produktion gewinnen. Über eine einzige Schnittstelle können Sie den Fortschritt von Trainingsjobs visualisieren, während der Experimentierphase mit Kollegen zusammenarbeiten und die Versionsverwaltung für jedes Modell und jede Anwendung pflegen. MLflow 3.0 bietet außerdem erweiterte Tracing-Funktionen, die die Eingaben, Ausgaben und Metadaten in jedem Schritt der Gen-AI-Entwicklung aufzeichnen, sodass Sie die Ursache von Fehlern oder unerwarteten Verhaltensweisen schnell identifizieren können.

Entwicklung generativer KI mit MLflow beschleunigen

Metadaten von ML-Experimenten zentral verwalten

Experimente auswerten

Um das beste Modell aus mehreren Iterationen zu identifizieren, sind eine Analyse und ein Vergleich der Modellleistung erforderlich. MLflow bietet Visualisierungen wie Streudiagramme, Balkendiagramme und Histogramme, um Trainingsiterationen zu vergleichen. Darüber hinaus ermöglicht MLflow die Bewertung von Modellen auf Vorurteile und Fairness.

MLflow-Modelle zentral verwalten

Oft verwenden mehrere Teams MLflow, um ihre Experimente zu verwalten, wobei nur einige Modelle für die Produktion in Frage kommen. Unternehmen benötigen eine einfache Möglichkeit, den Überblick über alle Kandidatenmodelle zu behalten, um fundierte Entscheidungen darüber treffen zu können, welche Modelle in Produktion gehen. MLflow lässt sich nahtlos in SageMaker Model Registry integrieren. Dadurch können Unternehmen sehen, dass ihre in MLflow registrierten Modelle automatisch in der SageMaker Model Registry erscheinen, komplett mit einer SageMaker-Modellkarte für die Governance. Diese Integration ermöglicht es Datenwissenschaftlerinnen und -wissenschaftlern sowie ML-Ingenieurinnen und -ingenieuren, unterschiedliche Tools für ihre jeweiligen Aufgaben zu verwenden: MLflow für Experimente und SageMaker Model Registry für die Verwaltung des Produktionslebenszyklus mit umfassender Modelllinie.

MLflow-Modelle auf SageMaker-Endpunkten bereitstellen

Die Bereitstellung von MLflow-Modellen auf SageMaker-Endpunkten ist nahtlos, sodass keine benutzerdefinierten Container für die Modellspeicherung erstellt werden müssen. Diese Integration ermöglicht es Kundinnen und Kunden, die optimierten Inferenzcontainer von SageMaker zu nutzen und gleichzeitig die benutzerfreundliche Erfahrung von MLflow für die Protokollierung und Registrierung von Modellen beizubehalten.