El modelo Muse Spark Open ya está disponible en Amazon SageMaker JumpStart
Muse Spark Open de Meta ya está disponible en Amazon SageMaker JumpStart, lo que amplía la cartera de modelos fundacionales disponibles para los clientes de AWS. Este modelo de peso abierto optimizado para la codificación de Meta está diseñado específicamente para los flujos de trabajo de codificación agéntica, ya que aporta el razonamiento de varios pasos y la llamada de herramientas a la ingeniería de software empresarial en la infraestructura de AWS.
Muse Spark Open está diseñado para agentes de codificación de larga duración y flujos de trabajo de ingeniería multimodales. Basado en una arquitectura de mezcla de expertos (MoE) con 816 B de parámetros en total y 42 B activos por token, ofrece la capacidad de una red muy grande y, al mismo tiempo, mantiene la computación por token más cercana a la de un modelo denso mucho más pequeño. El modelo contiene una ventana de contexto de 1 millón de tokens, lo que le permite incorporar un proyecto completo (incluidas las dependencias, el código heredado y miles de archivos) sin dividir las tareas en partes más pequeñas. Acepta texto, imágenes, documentos, audio y audio-vídeo como entrada y genera una salida de texto. Gracias a su formación en flujos de trabajo reales para desarrolladores, como la refactorización de varios archivos y las largas sesiones de depuración, planifica, actúa, observa los resultados y corrige sus propios errores a lo largo de procesos prolongados, en lugar de limitarse a realizar llamadas individuales a herramientas. SageMaker JumpStart ofrece dos variantes: BF16 (Muse-Spark-Open-816B-A42B) y NVFP4 cuantificado (Muse-Spark-Open-816B-A42b-NVFP4), y la variante NVFP4 requiere aproximadamente una cuarta parte de la memoria para una implementación rentable.
Con SageMaker JumpStart, los clientes pueden implementar Muse Spark Open con solo unos clics, con el punto de enlace ejecutándose en su propia cuenta de AWS para tener un control total sobre el código fuente y las peticiones.
Para comenzar con este modelo, navegue hasta el catálogo de modelos de SageMaker JumpStart en la consola de SageMaker o utilice el SDK de Python de SageMaker para implementar el modelo en su cuenta de AWS. Para obtener más información sobre la implementación y el uso de modelos fundacionales en SageMaker JumpStart, consulte la documentación de Amazon SageMaker JumpStart.