Modelle FLUX.2-small-decoder und gemma-4-12B-it jetzt auf Amazon SageMaker JumpStart verfügbar
Die Modelle FLUX.2-small-decoder von Black Forest Labs und gemma-4-12B-it von Google sind jetzt auf Amazon SageMaker JumpStart verfügbar und erweitern damit das Portfolio an Basismodellen, das AWS-Kunden zur Verfügung steht. Diese beiden Modelle bieten spezielle Funktionen, die eine effiziente Bildgenerierungsdekodierung und ein einheitliches multimodales Verständnis umfassen, sodass Kunden leistungsstarke, skalierbare KI-Lösungen auf AWS-Infrastruktur bereitstellen können.
FLUX.2-small-decoder ist für eine schnellere Bilddekodierung mit geringerer VRAM-Nutzung in FLUX.2-Bildgenerierungs-Pipelines optimiert. Es handelt sich um einen destillierten VAE-Decoder, der als direkter Ersatz für den Standard-FLUX.2-Decoder dient und eine etwa 1,4-mal höhere Decodierungsgeschwindigkeit bei 1,4-mal niedrigerem VRAM-Verbrauch mit minimalem bis gar keinem Qualitätsverlust bietet. Die Vorteile nehmen bei höheren Auflösungen zu, bei denen der Decoder mehr Pixel verarbeitet. Daher eignet er sich optimal für Bildgenerierungs-Workloads in großem Maßstab in Produktionsqualität.
gemma-4-12B-it zeichnet sich durch ein einheitliches multimodales Verständnis von Text-, Bild- und Audioeingaben mit nativer Unterstützung für Funktionsaufrufe und agentenbasierte Workflows aus. Es verfügt über eine Architektur ohne Encoder, bei der alle Modalitäten direkt in einen einzigen Transformer mit nur einem Decoder einfließen, und bietet eine Leistung, die dem größeren 26B-MoE-Modell von Google bei weniger als der Hälfte des Speicherbedarfs nahe kommt. Es ist kompakt genug, um mit 16 GB RAM betrieben zu werden, und ermöglicht leistungsstarke multimodale und agentenbasierte Erlebnisse für Unternehmensbereitstellungen.
Mit SageMaker JumpStart können Kunden jedes dieser Modelle mit nur wenigen Klicks für ihre spezifischen KI-Anwendungsfälle bereitstellen.
Um mit diesen Modellen zu beginnen, navigieren Sie in der SageMaker-Konsole zum SageMaker JumpStart-Modellkatalog oder nutzen Sie das SageMaker-Python-SDK, um die Modelle in Ihrem AWS-Konto bereitzustellen. Weitere Informationen zur Bereitstellung und Verwendung von Foundation-Modellen in SageMaker JumpStart finden Sie in der Dokumentation zu Amazon SageMaker JumpStart.