Muse Spark Open-Modell jetzt auf Amazon SageMaker JumpStart verfügbar
Muse Spark Open von Meta ist jetzt in Amazon SageMaker JumpStart verfügbar und erweitert damit das Portfolio der Foundation-Modelle, die AWS-Kunden zur Verfügung stehen. Dieses für die Programmierung optimierte Open-Weight-Modell von Meta wurde speziell für agentische Codierungsworkflows entwickelt und ermöglicht die Entwicklung von Unternehmenssoftware auf der AWS-Infrastruktur in mehreren Schritten und das Aufrufen von Tools.
Muse Spark Open wurde für Programmieragenten mit langer Laufzeit und multimodale Engineering-Workflows entwickelt. Es basiert auf einer Mixture-of-Experts (MoE)-Architektur mit insgesamt 816 B Parametern und 42 B aktiven pro Token. Es bietet die Kapazität eines sehr großen Netzwerks und sorgt gleichzeitig dafür, dass die Rechenleistung pro Token näher an der eines viel kleineren, dichten Modells liegt. Das Modell enthält ein 1M-Token-Kontextfenster, sodass es ein ganzes Projekt – einschließlich Abhängigkeiten, Legacy-Code und Tausenden von Dateien – aufnehmen kann, ohne Aufgaben in kleinere Teile aufzuteilen. Es akzeptiert Text, Bilder, Dokumente, Audio und Audio-Video als Eingabe und generiert Textausgabe. Es ist an echten Entwickler-Workflows wie Refaktoren mehrerer Dateien und langen Debugging-Sitzungen geschult und plant, handelt, beobachtet Ergebnisse und korrigiert sich selbst über lange Zeiträume hinweg, anstatt einzelne Tool-Aufrufe zu tätigen. SageMaker JumpStart bietet zwei Varianten: BF16 (Muse-Spark-Open-816B-A42B) und NVFP4 quantisiert (Muse-Spark-Open-816B-A42B-NVFP4), wobei die NVFP4-Variante für eine kosteneffiziente Bereitstellung etwa ein Viertel des Speichers benötigt.
Mit SageMaker JumpStart können Kunden Muse Spark Open mit nur wenigen Klicks bereitstellen, wobei der Endpunkt in ihrem eigenen AWS-Konto ausgeführt wird, um die volle Kontrolle über Quellcode und Eingabeaufforderungen zu haben.
Um mit diesem Modell zu beginnen, navigieren Sie in der SageMaker-Konsole zum SageMaker JumpStart-Modellkatalog oder nutzen Sie das SageMaker-Python-SDK, um die Modelle in Ihrem AWS-Konto bereitzustellen. Weitere Informationen zur Bereitstellung und Verwendung von Basismodellen in SageMaker JumpStart finden Sie in der Dokumentation zu Amazon SageMaker JumpStart.