Amazon SageMaker AI kündigt APIs für Schulungssitzungen für Serverless-Modellanpassung an
Die Serverless-Modellanpassung von Amazon SageMaker AI unterstützt jetzt APIs für Schulungssitzungen, sodass Kunden die volle Kontrolle über ihren Algorithmus nach der Schulung haben, ohne die GPU-Infrastruktur bereitstellen oder verwalten zu müssen. Verwaltete Techniken, darunter SFT, DPO und andere Reinforcement-Learning-Methoden, ermöglichen es den Kunden, eine Technik und ein Modell auszuwählen und die Schulung von SageMaker AI durchführen zu lassen. Mithilfe von APIs für Schulungssitzungen können Teams die Schulungsschleife selbst schreiben, ganz gleich, ob es darum geht, SFT oder DPO zu ihren eigenen Bedingungen zu reproduzieren oder einen benutzerdefinierten Verlust, ein neues RL-Belohnungssignal, einen Datenlehrplan oder einen Algorithmus direkt aus der neuesten Forschung zu implementieren. Vorgänge wie forward_backward (), optim_step () und sample () werden zu API-Aufrufen für eine statusbehaftete Live-Sitzung, sodass Kunden das Schulungsverfahren zusammenstellen, das für ihre Technik erforderlich ist, während SageMaker AI die GPU-Zuweisung, das Modell- und LoRa-Laden, die verteilte Ausführung, die Fehlerbehebung, die Checkpoint-Speicherung und die Sicherheit übernimmt.
Kunden können diese Vorgänge direkt von ihrem eigenen Python-Code aus aufrufen, um Reinforcement Learning, überwachte Feinabstimmungen oder benutzerdefinierte Schulungsziele anhand einer Live-Sitzung voranzutreiben, wobei Checkpointing und Lebenslauf integriert sind. Die Abrechnung erfolgt pro verarbeitetem Token, sodass lokale Berechnungen wie die Prämienbewertung nicht als GPU-Zeit abgerechnet werden. SageMaker AI veröffentlicht auch das SageMaker-Kochbuch für Schulungssitzungen, eine Reihe von sofort einsatzbereiten SFT- und RL-Rezepten, die Kunden als Vorlage für ihre eigenen Schulungsschleifen verwenden können.
APIs für Schulungssitzungen sind heute in den Regionen USA Ost (Nord-Virginia), USA West (Oregon) und Asien-Pazifik (Mumbai) allgemein verfügbar. Installieren Sie zunächst das SageMaker Python SDK und klonen Sie das Kochbuch oder starten Sie ein Notizbuch in SageMaker Studio und verbinden Sie einen Coding-Agenten. Weitere Informationen finden Sie in der Dokumentation und auf der Webseite von Amazon SageMaker AI.