Amazon Bedrock 知識庫現在支援 Llama 3.1 405B、70B 和 8B

張貼日期: 2024年8月29日

Amazon Bedrock 知識庫可以安全地將基礎模型 (FM) 與內部公司資料來源連接以進行檢索增強生成 (RAG)，提供相關、內容特定且準確的回應。知識庫上現已正式推出 Meta 的 Llama 3.1 系列基礎模型 (405B、70B 和 8B)。

Llama 3.1 是 Meta 所提供的新一代最先進模型，可支援 128,000 個字符 (大約 96,000 個字詞，或 192 頁資料) 的內容長度。Llama 3.1 模型非常適合需要複雜推理、快速輸出和 RAG 的任務。Llama 3.1 會透過全受管 RetrieveAndGenerate API 來獲得支援。

美國西部 (奧勒岡) AWS 區域現已正式推出關於 Llama 3.1 405B、70B 和 8B 模型的 Amazon Bedrock 知識庫。若要進一步了解，請閱讀 AWS 新聞部落格發文，並瀏覽 Amazon Bedrock 中的 Meta Lama 頁面。若要開始使用，請參閱 Amazon Bedrock 知識庫文件，然後造訪 Amazon Bedrock 主控台。