您現在可透過 Amazon SageMaker JumpStart 使用 Llama 3.2 生成式 AI 模型

張貼日期: 2024年9月25日

您現在可以透過 Amazon SageMaker JumpStart 使用目前為止最具效率、效能最佳且功能最強大的 Llama 模型 Llama 3.2，該模型是一種機器學習 (ML) 中心，可提供預先訓練的模型和內建演算法，以幫助您快速開始使用 ML。您可透過 SageMaker Python SDK，在 SageMaker Studio 中按幾下滑鼠或以程式設計方式部署和使用 Llama 3.2 模型 (90B、11B、3B、1B 和 Llama Guard 3 11B 視覺)。您也可以立即使用 SageMaker JumpStart 輕鬆微調 Llama 3.2 1B 和 3B 模型。

Meta 提供各種大小的 Llama 3.2 模型，從中小型多模態模型、11B 和 90B 參數模型、能夠完成複雜推理任務 (包括支持高解析度圖像的多模態) 的模型、適用於邊緣裝置的輕量純文字 1B 和 3B 參數模型，到 Llama Guard 3 11B 視覺模型皆有，旨在支援負責任的創新並提供系統層級安全性。Llama 3.2 是首個支援視覺任務的 Llama 模型，具有全新的模型架構，可將影像編碼器呈現整合至語言模型中。Llama 3.2 模型可協助您建置和部署生成式 AI 模型，以激發影像推理等全新創意運用，並且更易於邊緣應用程式使用。全新模型設計主旨也包含提升 AI 工作負載效率、降低延遲並改善效能，使其適合廣泛的運用。

Llama 3.2 模型會首先於美國東部 (俄亥俄) AWS 區域的 SageMaker JumpStart 提供。若要開始使用，請參閱文件和部落格。