Meta 的 Llama 3.1 8B 和 70B 模型現在可在 Amazon Bedrock 中進行微調

張貼日期: 2024年10月28日

Amazon Bedrock 現在支援對 Meta 的 Llama 3.1 70B 和 8B 模型進行微調，使企業能夠使用自己的資料自訂這些生成式 AI 模型。Llama 3.1 模型相比早期版本有顯著改進，包括 128K 的內容長度，是 Llama 3 的 16 倍，使您能夠從長文字段落中存取和處理更大量的資訊。您可以使用微調來調整 Llama 3.1 模型以適應特定網域的任務，提升模型在專門使用案例中的效能。

根據 Meta 的說法，Llama 3.1 模型在八種語言的多語對話中表現出色，並展現出更強的推理能力。Llama 3.1 70B 模型非常適合內容建立、對話式 AI、語言理解、研發和企業運用。該模型在文字總結和準確性、文字分類、情緒分析、細微推理、語言建模、對話系統、程式碼產生以及遵循說明方面等任務上表現出色。Llama 3.1 8B 模型最適合運算能力和資源有限的情況，能在文字總結、分類、情緒分析和語言翻譯等任務中表現出色，同時確保低延遲推論。透過微調 Amazon Bedrock 中的 Llama 3.1 模型，企業可以進一步提升其在專業應用的能力，提高準確性和相關性，而無需從頭開始建立模型。

您可以在美國西部 (奧勒岡州) AWS 區域的 Amazon Bedrock 中微調 Llama 3.1 模型。如需了解定價，請造訪 Amazon Bedrock 定價頁面。若要開始使用，請參閱 Bedrock 使用者指南。