Produktionalisierung der mit Feintuning optimierten Basismodelle von SageMaker Canvas
Amazon SageMaker Canvas unterstützt jetzt die Bereitstellung von optimierten Basismodellen (FMs) auf SageMaker-Echtzeit-Inferenzendpunkten, sodass Sie generative KI-Funktionen in die Produktion integrieren und außerhalb des Canvas-Workspace nutzen können. SageMaker Canvas ist ein Arbeitsbereich ohne Code, der es Analysten und Citizen Data Scientists ermöglicht, genaue ML-Prognosen zu erstellen und generative KI zu verwenden.
SageMaker Canvas bietet Zugriff auf Finetuning-Basismodelle (FMs), die auf Amazon Bedrock und SageMaker JumpStart basieren, z. B. die Varianten Amazon Titan Express, Falcon-7B-Instruct, Falcon-40B-Instruct und Flan-T5. Sie laden einen Datensatz hoch, wählen ein Basismodell (FM) für das Feintuning aus und SageMaker Canvas erstellt und optimiert das Modell daraufhin automatisch. Dabei passt es das Basismodell (FM) an die Muster und Nuancen der jeweiligen Anwendung an, sodass es bessere Antworten liefern kann.
Ab sofort können Sie durch Feintuning optimierte FMs auf SageMaker-Endpunkten bereitstellen, was es einfacher macht, generative KI-Funktionen außerhalb des SageMaker Canvas-Workspace in Ihre Anwendungen zu integrieren.
Melden Sie sich zunächst bei SageMaker Canvas an, um auf die optimierten FMs zuzugreifen. Wählen Sie das gewünschte Modell aus und stellen Sie es mit den entsprechenden Endpunktkonfigurationen bereit, z. B. auf unbestimmte Zeit oder für einen bestimmten Zeitraum. Für bereitgestellte Modelle fallen Gebühren für SageMaker Inferencing an. Ein neuer Benutzer kann die neueste Version von SageMaker direkt über die AWS-Konsole aufrufen. Ein vorhandener Benutzer kann auf die neueste Version von SageMaker Canvas zugreifen, indem er auf „Abmelden“ klickt und sich erneut anmeldet.
Dieses erweiterte Feature ist jetzt in allen AWS-Regionen verfügbar, in denen SageMaker Canvas unterstützt wird. Weitere Informationen finden Sie in der Produktdokumentation zu SageMaker Canvas.