O modelo Muse Spark Open já está disponível no Amazon SageMaker JumpStart
O modelo Muse Spark da Meta já está disponível no Amazon SageMaker JumpStart, ampliando o portfólio de modelos de base disponíveis para clientes da AWS. Esse modelo aberto otimizado para codificação da Meta foi desenvolvido especificamente para fluxos de trabalho de codificação autênticos, trazendo raciocínio em várias etapas e chamada de ferramentas para a engenharia de software corporativo na infraestrutura da AWS.
O Muse Spark Open foi projetado para agentes de codificação de longa duração e fluxos de trabalho de engenharia multimodal. Construído em uma arquitetura de mistura de especialistas (MoE) com 816 B de parâmetros totais e 42 B ativos por token, ele oferece a capacidade de uma rede muito grande, mantendo a computação por token mais próxima da de um modelo denso muito menor. O modelo contém uma janela de contexto de 1 milhão de tokens, permitindo que ele ingira um projeto inteiro, incluindo dependências, código legado e milhares de arquivos, sem dividir as tarefas em partes menores. Ele aceita texto, imagens, documentos, áudio e áudio-vídeo como entrada e gera saída de texto. Treinado em fluxos de trabalho reais de desenvolvedores, como refatoramento de vários arquivos e longas sessões de depuração, ele planeja, age, observa resultados e se autocorrige em horizontes longos, em vez de fazer chamadas de ferramentas únicas. O SageMaker JumpStart oferece duas variantes: BF16 (Muse-Spark-Open-816B-A42B) e NVFP4 quantizado (Muse-Spark-Open-816B-A42B-NVFP4), com a variante NVFP4 exigindo aproximadamente um quarto da memória para uma implantação econômica.
Com o SageMaker JumpStart, os clientes podem implantar o Muse Spark Open com apenas alguns cliques, com o endpoint em execução em sua própria conta da AWS para controle total sobre o código-fonte e os prompts.
Para começar a usar esse modelo, navegue até o catálogo de modelos do SageMaker JumpStart no console do SageMaker ou use o SDK do SageMaker Python para implantar o modelo em sua conta da AWS. Para obter mais informações sobre a implantação e o uso de modelos de base no SageMaker JumpStart, consulte a documentação do Amazon SageMaker JumpStart.