Muse Spark Open 模型現已在 Amazon SageMaker JumpStart 推出
Meta 的 Muse Spark Open 現已在 Amazon SageMaker JumpStart 推出,擴充了 AWS 客戶可用的基礎模型組合。這款由 Meta 推出的程式碼最佳化開放權重模型,專為代理程式程式設計工作流程打造,在 AWS 基礎架構上為企業軟體工程帶來多步驟推理和工具呼叫能力。
Muse Spark Open 專為長時間執行的程式碼代理及多模態工程工作流程所設計。此模型採用混合專家 (MoE) 架構,總參數達 8,160 億,每個字符約有 420 億個作用中參數,可提供超大型網路的容量,同時讓每個字符的運算量更接近小得多的密集模型。此模型具備 100 萬字符的內容視窗,能夠擷取整個專案 ── 包括相依性、舊版程式碼和數千個檔案 ── 而不必將工作分割成更小的片段。它接受文字、影像、文件、音訊和影音作為輸入,並產生文字輸出。此模型以真實的開發人員工作流程訓練,例如多重檔案重構與長時間偵錯工作階段,能在長時間範圍內規劃、執行、觀察結果並自我修正,而不只是進行單一工具呼叫。SageMaker JumpStart 提供兩種變體:BF16 (Muse-Spark-Open-816B-A42B) 和 NVFP4 量化 (Muse-Spark-Open-816B-A42B-NVFP4),其中 NVFP4 變體所需的記憶體約為四分之一,可實現符合成本效益的部署。
透過 SageMaker JumpStart,客戶只要按幾下就能部署 Muse Spark Open,端點會在客戶自己的 AWS 帳戶中執行,讓客戶完全掌控原始程式碼和提示。
若要開始使用此模型,請瀏覽至 SageMaker 主控台中的 SageMaker JumpStart 模型目錄,或使用 SageMaker Python SDK 將模型部署至您的 AWS 帳戶。如需在 SageMaker JumpStart 中部署與使用基礎模型的詳細資訊,請參閱 Amazon SageMaker JumpStart 文件。