您現在可透過 Amazon Bedrock 使用 Llama 3.2 生成式 AI 模型

張貼日期: 2024年9月25日

您現在已可在 Amazon Bedrock 內使用 Llama 3.2 系列模型。Llama 3.2 代表了 Meta 在大型語言模型 (LLM) 方面的最新進展。Meta 提供各種大小的 Llama 3.2 模型,從中小型多模態模型、11B 和 90B 參數模型、能夠完成複雜推理任務 (包括支持高解析度圖像的多模態) 的模型,到適用於邊緣裝置的輕量純文字 1B 和 3B 參數模型皆有。Llama 3.2 是首個支援視覺任務的 Llama 模型,具有全新的模型架構,可將影像編碼器呈現整合至語言模型中。

除了現有文字功能的 Llama 3.1 8B、70B 和 405B 模型之外,Llama 3.2 還支援多模態使用案例。現在,您可以使用 Amazon Bedrock 內的四款全新 Meta Llama 3.2 模型 (90B、11B、3B 和 1B) 來充分發揮新一代人工智慧的可能性。Llama 3.2 模型專注於實現負責任的創新並提供系統級安全性,可協助您建置和部署最尖端的生成式 AI 模型和應用程式,利用 Amazon Bedrock 中的 Llama 激發圖像推理等全新創意運用,並且更易於邊緣應用程式使用。全新模型設計主旨也包含提升 AI 工作負載效率、降低延遲並改善效能,使其適合廣泛的運用。

您可透過跨區域推論,在美國西部 (奧勒岡) 區域及美國東部 (俄亥俄,維吉尼亞北部) 區域的 Amazon Bedrock 使用 Meta Llama 3.2 90B 和 11B 模型。您可以透過跨區域推論,分別在美國西部 (奧勒岡) 和歐洲 (法蘭克福) 區域,以及美國東部 (俄亥俄、維吉尼亞北部) 和歐洲 (愛爾蘭、巴黎) 區域使用 Llama 3.2 1B 和 3B 模型。若要進一步了解更多信息,請參閱發佈部落格Llama 產品頁面文件。若要開始在 Amazon Bedrock 中使用 Llama 3.2,請造訪 Amazon Bedrock 主控台