您現在可透過 Amazon SageMaker JumpStart 來使用 Meta Llama 3.1 生成式 AI 模型

張貼日期: 2024年7月23日

您現在可以透過 Amazon SageMaker JumpStart 使用目前為止最先進且功能最強大的 Meta Llama 模型 Llama 3.1，該模型是一種機器學習 (ML) 中心，可提供預先訓練的模型和內建演算法，以幫助您快速開始使用 ML。僅須在 SageMaker Studio 中輕點幾下，或透過 SageMaker Python SDK 採用程式設計方式進行，即可部署和使用 Llama 3.1 模型。

Llama 3.1 模型受惠於訓練資料和規模的增加，展示出了較先前版本更顯著的改進。這些模型支持 128K 的內容長度，權杖數量比 Llama 3 增加了 120K。Llama 3.1 模型的容量是 Llama 3 模型的 16 倍，並改進了八種語言的多語言對話使用案例推理功能。該模型可以從較長的文字段落中取得更多資訊，以做出更明智的決策，並利用更豐富的內容資料來產生更精細的回應。按 Meta 所述，Llama 3.1 405B 是最大型的公用基礎模型之一，非常適合用於綜合資料產生和模型蒸餾，這兩種技術均可改善較小的 Llama 模型。您必須遵守 Meta 的授權條件，才能使用綜合資料進行模型微調。請閱讀 EULA 以了解額外資訊。所有 Llama 3.1 模型均提供一般知識、數學、工具使用和多語言翻譯方面的最先進功能。

您現在可透過美國東部 (俄亥俄)、美國西部 (奧勒岡) 和美國東部 (維吉尼亞北部) AWS 區域的 SageMaker JumpStart 使用 Llama 3.1 模型。若要開始在 SageMaker JumpStart 中使用 Llama 3.1 模型，請參閱相關文件和部落格。