Amazon SageMaker
Machine Learning für jeden Entwickler und Daten-Wissenschaftler
Amazon SageMaker ist ein vollständig verwalteter Dienst, der jedem Entwickler und Daten-Wissenschaftler die Möglichkeit bietet, schnell Modelle für Machine Learning (ML) zu erstellen, zu schulen und bereitzustellen. SageMaker beseitigt das schwere Heben in jedem Schritt des Machine Learning-Prozess, um die Entwicklung hochwertiger Modelle zu vereinfachen.
Die herkömmliche ML-Entwicklung ist ein komplexer, teurer und noch schwierigerer iterativer Prozess, da für den gesamten Machine Learning-Workflow keine integrierten Tools vorhanden sind. Sie müssen Tools und Arbeitsabläufe zusammenfügen, was zeitaufwändig und fehleranfällig ist. SageMaker löst diese Herausforderung, indem alle für das Machine Learning verwendeten Komponenten in einem einzigen Toolset bereitgestellt werden, sodass Modelle mit weniger Aufwand und geringeren Kosten schneller in die Produktion gelangen.
Erstellen von Machine Learning-Modellen
NUR AUF AMAZON SAGEMAKER
Steigern Sie die Produktivität mit Amazon SageMaker Studio, der ersten vollständig integrierten Entwicklungsumgebung (Integrated Development Environment, IDE) für Machine Learning
Amazon SageMaker Studio bietet eine einzige webbasierte visuelle Oberfläche, auf der Sie alle ML-Entwicklungsschritte ausführen können. Mit SageMaker Studio erhalten Sie vollständigen Zugriff, Kontrolle und Einblick in alle Schritte, die zum Erstellen, Trainieren und Bereitstellen von Modellen erforderlich sind. Sie können schnell Daten hochladen, neue Notizbücher erstellen, Modelle schulen und optimieren, zwischen den Schritten hin und her wechseln, um Experimente anzupassen, Ergebnisse zu vergleichen und Modelle an einem Ort für die Produktion bereitzustellen, wodurch Sie viel produktiver werden. Alle ML-Entwicklungsaktivitäten, einschließlich Notebooks, Experimentverwaltung, automatische Modellerstellung, Debugging sowie Modellabweichungserkennung, können über die einheitliche visuelle Oberfläche von SageMaker Studio ausgeführt werden.
Verwenden Sie eine IDE für die ML-Entwicklung. Nehmen Sie beispielsweise Aktualisierungen an Modellen in einem Notizbuch vor und sehen Sie anhand einer nebeneinander angeordneten Ansicht Ihres Notizbuchs und von Schulungsexperimenten, wie sich Änderungen auf die Modellqualität auswirken.
Verwenden Sie eine IDE für die ML-Entwicklung. Nehmen Sie beispielsweise Aktualisierungen an Modellen in einem Notizbuch vor und sehen Sie anhand einer nebeneinander angeordneten Ansicht Ihres Notizbuchs und von Schulungsexperimenten, wie sich Änderungen auf die Modellqualität auswirken.
NUR AUF AMAZON SAGEMAKER
Schnellere Entwicklung und Zusammenarbeit mit Amazon SageMaker Studio Notebooks
Das Verwalten von Datenverarbeitungs-Instances zum Anzeigen, Ausführen oder Freigeben eines Notebooks ist mühsam. Amazon SageMaker Studio Notebooks sind One-Click-Jupyter-Notebooks, die schnell betriebsbereit sind. Die zugrunde liegenden Rechenressourcen sind vollständig elastisch, sodass Sie die verfügbaren Ressourcen einfach vergrößern oder verkleinern können. Die Änderungen finden ohne Unterbrechung Ihrer Arbeit automatisch im Hintergrund statt. SageMaker ermöglicht auch die Freigabe von Notebooks mit einem Klick. Sie können Notebooks problemlos mit anderen teilen und diese erhalten genau dasselbe Notebook, das am selben Ort gespeichert ist.
In SageMaker können Sie aus Dutzenden von vorgefertigten Notebooks für verschiedene Anwendungsfälle auswählen. Auf dem AWS Marketplace stehen Ihnen Hunderte von Algorithmen und vorgefertigten Modellen zur Verfügung, die Ihnen den schnellen Einstieg erleichtern.
Generieren Sie einen gemeinsam nutzbaren Link, ohne Abhängigkeiten manuell zu verfolgen, um den Notebookcode zu reproduzieren.
Generieren Sie einen gemeinsam nutzbaren Link, ohne Abhängigkeiten manuell zu verfolgen, um den Notebookcode zu reproduzieren.
NUR AUF AMAZON SAGEMAKER
Mit Amazon SageMaker Autopilot können Sie Modelle mit vollständiger Sichtbarkeit und Kontrolle automatisch erstellen, schulen und optimieren
Amazon SageMaker Autopilot ist die erste automatisierte Machine Learning-Funktion der Branche, mit der Sie Ihre ML-Modelle vollständig steuern und einsehen können. Typische Ansätze für das automatisierte Machine Learning geben Ihnen keinen Einblick in die Daten, die bei der Erstellung des Modells verwendet wurden, oder in die Logik, die bei der Erstellung des Modells verwendet wurde. Selbst wenn das Modell mittelmäßig ist, gibt es daher keine Möglichkeit, es weiterzuentwickeln. Darüber hinaus haben Sie nicht die Flexibilität, Kompromisse zu schließen, z. B. Einbußen bei der Genauigkeit für Vorhersagen mit geringerer Latenz, da bei typischen automatisierten ML-Lösungen nur ein Modell zur Auswahl steht.
SageMaker Autopilot überprüft automatisch die Rohdaten, wendet Feature-Prozessoren an, wählt die besten Algorithmen aus, schult und optimiert mehrere Modelle, verfolgt deren Leistung und ordnet die Modelle mit nur wenigen Klicks anhand der Leistung. Das Ergebnis ist das Modell mit der besten Leistung, das Sie zu einem Bruchteil der für das Trainieren des Modells normalerweise erforderlichen Zeit bereitstellen können. Sie erhalten einen vollständigen Überblick darüber, wie das Modell erstellt wurde und was darin enthalten ist, und SageMaker Autopilot lässt sich in Amazon SageMaker Studio integrieren. Sie können bis zu 50 verschiedene Modelle untersuchen, die von SageMaker Autopilot in SageMaker Studio generiert wurden, sodass Sie ganz einfach das beste Modell für Ihren Anwendungsfall auswählen können. SageMaker Autopilot kann von Personen ohne Erfahrung mit Machine Learning verwendet werden, um auf einfache Weise ein Modell zu erstellen, oder von erfahrenen Entwicklern, um schnell ein Basismodell zu entwickeln, auf dem Teams weiter iterieren können.
Erstellen Sie automatisch Modelle für Machine Learning und wählen Sie das Modell aus, das am besten zu Ihrem Anwendungsfall passt. Überprüfen Sie beispielsweise die Bestenliste, um die Leistung der einzelnen Optionen zu ermitteln, und wählen Sie das Modell aus, das Ihren Anforderungen an Modellgenauigkeit und Latenz entspricht.
Erstellen Sie automatisch Modelle für Machine Learning und wählen Sie das Modell aus, das am besten zu Ihrem Anwendungsfall passt. Überprüfen Sie beispielsweise die Bestenliste, um die Leistung der einzelnen Optionen zu ermitteln, und wählen Sie das Modell aus, das Ihren Anforderungen an Modellgenauigkeit und Latenz entspricht.
NUR AUF AMAZON SAGEMAKER
Reduzieren Sie mit Amazon SageMaker Ground Truth die Kosten für die Datenkennzeichnung um bis zu 70 %
Erfolgreiche Machine Learning-Modelle wurden auf Grundlage großer Mengen qualitativ hochwertiger Trainingsdaten erstellt. Das Erstellen der Trainingsdaten, die zum Aufbauen dieser Modelle notwendig sind, ist meist teuer, kompliziert und zeitaufwendig. Mit Amazon SageMaker Ground Truth können Sie im Handumdrehen höchst präzise Trainingsdatensätze erstellen und verwalten. Ground Truth bietet über Amazon Mechanical Turk einfachen Zugriff auf Kennzeichner und stellt ihnen vorgefertigte Workflows und Schnittstellen für allgemeine Kennzeichnungsaufgaben zur Verfügung. Sie können auch Ihre eigenen Kennzeichner oder von Amazon über AWS Marketplace empfohlene Anbieter verwenden. Darüber hinaus lernt Ground Truth kontinuierlich von von Menschen erstellten Etiketten, um hochwertige, automatische Anmerkungen zu erstellen und so die Kennzeichnungskosten erheblich zu senken.
70 %
Amazon SageMaker unterstützt die führenden Deep Learning-Frameworks
Unterstützte Frameworks sind TensorFlow, PyTorch, Apache MXNet, Chainer, Keras, Gluon, Horovod, Scikit-Learn und Deep Graph Library.
Schulen von Machine Learning-Modellen
NUR AUF AMAZON SAGEMAKER
Organisieren, verfolgen und bewerten Sie Schulungsläufe mithilfe von Amazon SageMaker-Experimenten
Mit Amazon SageMaker-Experimenten können Sie Iterationen von Modellen für Machine Learning organisieren und nachverfolgen. Das Training eines ML-Modells umfasst in der Regel viele Iterationen, um die Auswirkungen sich ändernder Datensätze, Algorithmusversionen und Modellparameter zu isolieren und zu messen. Während dieser Iterationen erstellen Sie Hunderte von Artefakten wie Modelle, Trainingsdaten, Plattformkonfigurationen, Parametereinstellungen und Trainingsmetriken. Oft werden umständliche Mechanismen wie Tabellenkalkulationen verwendet, um diese Experimente zu verfolgen.
Mit SageMaker-Experimenten können Sie Iterationen verwalten, indem Sie die Eingabeparameter, Konfigurationen und Ergebnisse automatisch erfassen und als "Experimente" speichern. Sie können in der visuellen Oberfläche von SageMaker Studio arbeiten, in der Sie aktive Experimente durchsuchen, nach früheren Experimenten anhand ihrer Eigenschaften suchen, frühere Experimente mit ihren Ergebnissen überprüfen und die Testergebnisse visuell vergleichen können.
Verfolgen Sie Tausende von Trainingsexperimenten, um die Genauigkeit Ihres Modells zu verstehen. Zeigen Sie beispielsweise in einem Diagramm an, wie sich verschiedene Zeitreihendatensätze auf die Modellgenauigkeit auswirken.
Verfolgen Sie Tausende von Trainingsexperimenten, um die Genauigkeit Ihres Modells zu verstehen. Zeigen Sie beispielsweise in einem Diagramm an, wie sich verschiedene Zeitreihendatensätze auf die Modellgenauigkeit auswirken.
NUR AUF AMAZON SAGEMAKER
Analysieren, erkennen und machen Sie auf Probleme beim Machine Learning mit Amazon SageMaker Debugger aufmerksam
Der ML-Trainingsprozess ist weitgehend undurchsichtig und die Zeit, die zum Trainieren eines Modells benötigt wird, kann lang und schwierig zu optimieren sein. Daher ist es oft schwierig, Modelle zu interpretieren und zu erklären. Amazon SageMaker Debugger macht den Schulungsprozess transparenter, indem während der Schulung automatisch Echtzeitmessdaten erfasst werden, z. B. Schulung und Validierung, Verwirrungsmatrizen und Lernverläufe, um die Modellgenauigkeit zu verbessern.
Die Metriken von SageMaker Debugger können zum besseren Verständnis in SageMaker Studio visualisiert werden. SageMaker Debugger kann auch Warnungen und Fehlerbehebungshinweise generieren, wenn allgemeine Schulungsprobleme festgestellt werden. Mit SageMaker Debugger können Sie die Funktionsweise eines Modells interpretieren und so einen frühen Schritt in Richtung Erklärbarkeit des Modells darstellen.
Analysieren und Debuggen von Anomalien. Beispielsweise wird die Schulung eines neuronalen Netzwerks beendet, wenn festgestellt wird, dass Gradienten verschwinden. SageMaker Debugger erkennt verschwindende Gradienten, sodass Sie Korrekturen vornehmen können, bevor die Schulung beeinträchtigt wird.
Analysieren und Debuggen von Anomalien. Beispielsweise wird die Schulung eines neuronalen Netzwerks beendet, wenn festgestellt wird, dass Gradienten verschwinden. SageMaker Debugger erkennt verschwindende Gradienten, sodass Sie Korrekturen vornehmen können, bevor die Schulung beeinträchtigt wird.
AWS ist der ideale Ort für die Ausführung von TensorFlow
Die TensorFlow-Optimierungen von AWS ermöglichen eine beinahe lineare Skalierungseffizienz über mehrere Hundert GPUs für den Betrieb auf Cloud-Niveau ohne allzu hohen Verwaltungsaufwand, um präzisere, ausgereiftere Modelle in kürzerer Zeit zu trainieren.
90 %
Senkung der Schulungskosten um 90 %
Amazon SageMaker bietet Managed Spot-Schulung an, mit dem Sie die Schulungskosten um bis zu 90 % senken können. Diese Funktion verwendet Amazon EC2 Spot-Instances, d. h. freie AWS-Rechenkapazität. Schulungsaufgaben werden automatisch ausgeführt, wenn Rechenkapazität verfügbar wird, und sind unempfindlich gegenüber Unterbrechungen, die durch Kapazitätsänderungen verursacht werden. Auf diese Weise können Sie Kosten sparen, wenn Sie flexibel genug sind, um Schulungsaufgaben uszuführen.
90 %
Bereitstellen von Machine Learning-Modellen
Bereitstellung mit nur einem Mausklick
Mit Amazon SageMaker können Sie Ihr geschultes Modell mit einem einzigen Klick in der Produktion bereitstellen, sodass Sie Vorhersagen für Echtzeit- oder Batch-Daten erstellen können. Sie können das Modell mit nur einem Mausklick auf Auto Scaling Amazon ML-Instances in mehreren Availability Zones bereitstellen, um eine hohe Redundanz zu erzielen. Geben Sie einfach den Instance-Typ sowie die gewünschte maximale und minimale Anzahl an, und SageMaker kümmert sich um den Rest. SageMaker startet die Instances, stellt Ihr Modell bereit und richtet den sicheren HTTPS-Endpunkt für Ihre Anwendung ein. Ihre Anwendung muss lediglich einen API-Aufruf für diesen Endpunkt enthalten, um eine niedrige Latenz und einen hohen Inferenzdurchsatz zu erzielen. Mit dieser Architektur können Sie Ihre neuen Modelle in wenigen Minuten in Ihre Anwendung integrieren, da für Modelländerungen keine Änderungen des Anwendungscodes mehr erforderlich sind.
NUR AUF AMAZON SAGEMAKER
Halten Sie Modelle mit Amazon SageMaker Model Monitor über einen längeren Zeitraum hinweg genau
Mit Amazon SageMaker Model Monitor können Entwickler Konzeptabweichungen erkennen und beheben. Heutzutage ist einer der großen Faktoren, die die Genauigkeit von bereitgestellten Modellen beeinflussen können, dass die Daten, die zur Erstellung von Vorhersagen verwendet werden, von den Daten abweichen, die zum Schulen des Modells verwendet werden. Beispielsweise könnten sich ändernde wirtschaftliche Bedingungen zu neuen Zinssätzen führen, die sich auf die Prognosen für den Hauskauf auswirken. Dies wird als Konzeptdrift bezeichnet, bei der die Muster, die das Modell verwendet, um Vorhersagen zu treffen, nicht mehr zutreffen. SageMaker Model Monitor erkennt automatisch Konzeptverschiebungen in implementierten Modellen und bietet detaillierte Warnungen, mit denen die Ursache des Problems ermittelt werden kann. Alle in SageMaker geschulten Modelle geben automatisch wichtige Messdaten aus, die in SageMaker Studio erfasst und angezeigt werden können. In SageMaker Studio können Sie konfigurieren, welche Daten erfasst werden sollen, wie diese angezeigt werden und wann Warnungen empfangen werden sollen.
Überwachen Sie Modelle in der Produktion. Sehen Sie sich beispielsweise Diagramme mit wichtigen Modellfunktionen und zusammenfassenden Statistiken an, beobachten Sie diese über einen längeren Zeitraum und vergleichen Sie sie mit den im Training verwendeten Funktionen. Einige Funktionen driften ab, wenn das Modell in der Produktion ausgeführt wird. Dies kann auf die Notwendigkeit hinweisen, Ihr Modell neu zu trainieren.
Überwachen Sie Modelle in der Produktion. Sehen Sie sich beispielsweise Diagramme mit wichtigen Modellfunktionen und zusammenfassenden Statistiken an, beobachten Sie diese über einen längeren Zeitraum und vergleichen Sie sie mit den im Training verwendeten Funktionen. Einige Funktionen driften ab, wenn das Modell in der Produktion ausgeführt wird. Dies kann auf die Notwendigkeit hinweisen, Ihr Modell neu zu trainieren.
NUR AUF AMAZON SAGEMAKER
Validieren Sie Vorhersagen durch Überprüfung durch den Menschen
Bei vielen Machine Learning-Anwendungen müssen die Ergebnisse von Vorhersagen mit niedrigem Zuversichtswert von Menschen überprüft werden. Es kann jedoch zeitaufwändig und kostspielig sein, menschliche Überprüfungen in den Workflow einzubauen, was komplexe Prozesse mit sich bringt. Amazon Augmented AI ist ein Service, mit dem die für die Überprüfung von ML-Vorhersagen durch den Benutzer erforderlichen Workflows auf einfache Weise erstellt werden können. Augmented AI bietet integrierte Arbeitsabläufe zur Überprüfung durch den Benutzer für gängige Anwendungsfälle des Machine Learning. Sie können auch eigene Workflows für Modelle erstellen, die auf Amazon SageMaker basieren. Mit Augmented AI können menschliche Prüfer eingreifen, wenn ein Modell keine zuverlässigen Vorhersagen treffen kann.
Verwenden von Kubeflow Pipelines für Aufgabenorchestrierung und -planung
Amazon SageMaker Components for Kubeflow Pipelines sind Open-Source-Plugins, die jetzt in der Vorversion erhältlich sind und es Ihnen ermöglichen, Kubeflow Pipelines zum Definieren Ihrer ML-Workflows und SageMaker für Datenkennzeichnung, Training und Inferenzschritte zu verwenden. Kubeflow Pipelines ist ein Add-on für Kubeflow, mit dem Sie portable und skalierbare End-to-End-ML-Pipelines entwickeln und bereitstellen können. Allerdings müssen ML-Betriebsteams beim Verwenden von Kubeflow Pipelines einen Kubernetes-Cluster mit CPU- und GPU-Instances verwalten und stets für eine hohe Auslastung sorgen, um Betriebskosten zu senken. Das Maximieren der Auslastung eines Clusters für mehrere Daten-Wissenschaftsteams ist schwierig und sorgt bei den ML-Betriebsteams für einen zusätzlichen betrieblichen Aufwand. Als Alternative für einen ML-optimierten Kubernetes-Cluster können Sie mit Amazon SageMaker Components for Kubeflow Pipelines leistungsstarke SageMaker-Funktionen nutzen, beispielsweise Datenkennzeichnung, vollständig verwaltete, umfangreiche Hyperparameter-Optimierung, verteilte Trainingsaufgaben, sichere und skalierbare Modellbereitstellung mit nur einem Klick sowie kostengünstiges Training durch EC2-Spot-Instances, ohne dass Sie Kubernetes-Cluster speziell für die Ausführung der Machine-Learning-Aufgaben konfigurieren und verwalten müssen.
Integration in Kubernetes für Orchestrierung und Verwaltung
Kubernetes ist ein Open Source-System, mit dem die Bereitstellung, Skalierung und Verwaltung von containerisierten Anwendungen automatisiert wird. Viele Kunden möchten die vollständig verwalteten Funktionen von Amazon SageMaker für Machine Learning nutzen, möchten aber auch, dass Plattform- und Infrastrukturteams weiterhin Kubernetes für die Orchestrierung und Verwaltung von Pipelines verwenden. Mit SageMaker können Benutzer Modelle in SageMaker mit Kubernetes-Operatoren trainieren und implementieren.
Senken Sie mit Amazon Elastic Inference die Inferenzkosten für Machine Learning um bis zu 75 %
In den meisten Deep Learning-Anwendungen kann das Erstellen von Vorhersagen mithilfe eines trainierten Modells - ein Prozess, der als Inferenz bezeichnet wird – ein wesentlicher Faktor für die Rechenkosten der Anwendung sein. Eine vollständige GPU-Instance ist möglicherweise zu groß, um auf das Modell schließen zu können. Darüber hinaus kann es schwierig sein, den GPU-, CPU- und Speicherbedarf Ihrer Deep-Learning-Anwendung zu optimieren. Amazon Elastic Inference löst diese Probleme, indem Sie jedem Amazon EC2- oder Amazon SageMaker-Instance-Typ oder jeder Amazon ECS-Aufgabe ohne Codeänderungen genau die richtige Menge an GPU-gestützter Inferenzbeschleunigung zuweisen können. Mit Elastic Inference können Sie den Instance-Typ auswählen, der am besten zu den allgemeinen CPU- und Speicheranforderungen Ihrer Anwendung passt, und anschließend den Umfang der Inferenzbeschleunigung separat konfigurieren, die Sie benötigen, um Ressourcen effizient zu nutzen und die Kosten für die Ausführung von Inferenzen zu senken.
75 %
Leistungsstarke und kostengünstige Inferenz in der Cloud
Mit Amazon SageMaker können Sie Ihre geschulten Machine Learning-Modelle auf Amazon Inf1-Instances bereitstellen, die mit dem AWS Inferentia-Chip erstellt wurden, um für hochleistungsfähige und kostengünstige Inferenz zu sorgen. Mit Inf1-Instances können Sie groß angelegte Machine Learning-Inferenzanwendungen wie Bilderkennung, Spracherkennung, Verarbeitung natürlicher Sprache, Personalisierung und Betrugserkennung ausführen. Mit Amazon SageMaker Neo können Sie Ihre geschulten Machine Learning-Modelle so kompilieren, dass sie auf Inf1-Instances optimal laufen, und die kompilierten Modelle einfach auf Inf1-Instances einsetzen, um Echtzeit-Inferenz zu erzielen.
Fallbeispiele
Beginnen Sie mit der Entwicklung mit Amazon SageMaker in der AWS-Managementkonsole.