Muse Spark Open モデルが Amazon SageMaker JumpStart で利用可能に
Meta の Muse Spark Open が Amazon SageMaker JumpStart で利用できるようになりました。これにより、AWS のお客様が利用できる基盤モデルのポートフォリオが拡大します。Meta が提供するこのオープンウェイトモデルはコーディング向けに最適化されており、エージェンティックなコーディングワークフロー専用に構築されています。これにより、AWS インフラストラクチャ上のエンタープライズ向けソフトウェアエンジニアリングで、多段階の推論とツール呼び出しを活用できます。
Muse Spark Open は、長時間実行されるコーディングエージェントとマルチモーダルなエンジニアリングワークフロー向けに設計されています。総パラメータ数 816B、トークンあたりのアクティブパラメータ数 42B の Mixture-of-Experts (MoE) アーキテクチャを基盤としており、トークンあたりの計算量をはるかに小規模な dense モデルに近い水準に抑えながら、非常に大規模なネットワークの能力を実現します。このモデルは 100 万トークンのコンテキストウィンドウを備えているため、タスクを細かく分割することなく、依存関係、レガシーコード、数千のファイルを含むプロジェクト全体を取り込むことができます。入力としてテキスト、画像、ドキュメント、音声、音声付きの動画を受け付け、テキストを出力します。複数ファイルにわたるリファクタリングや長時間のデバッグセッションなど、デベロッパーの実際のワークフローでトレーニングされており、単発のツール呼び出しにとどまらず、多数のステップにわたって計画、実行、結果の観察、自己修正を行います。SageMaker JumpStart では、BF16 (Muse-Spark-Open-816B-A42B) と NVFP4 量子化 (Muse-Spark-Open-816B-A42B-NVFP4) の 2 つのバリアントが提供されます。NVFP4 バリアントに必要なメモリは約 4 分の 1 であるため、コスト効率の高いデプロイが可能です。
SageMaker JumpStart を使用すると、お客様は数回クリックするだけで Muse Spark Open をデプロイできます。エンドポイントはお客様自身の AWS アカウントで実行されるため、ソースコードとプロンプトを完全に制御できます。
このモデルの使用を開始するには、SageMaker コンソールで SageMaker JumpStart のモデルカタログに移動するか、SageMaker Python SDK を使用してモデルを AWS アカウントにデプロイしてください。SageMaker JumpStart での基盤モデルのデプロイと使用方法の詳細については、Amazon SageMaker JumpStart のドキュメントを参照してください。