概觀
![](https://d1.awsstatic.com/colorset-3A_blue-to-green_gradient_divider.81459b38a56091aebc8c9b5310826c4ef397b007.png)
要建置生成式 AI 應用程式,其中一項主要挑戰是複雜的雲端設定以及對深度 AI 專業知識的需求。AWS 上的生成式 AI 應用程式建置器可簡化此程序,協助您開發、測試和部署 AI 應用程式,而無需廣泛的 AI 知識。此解決方案可輕鬆整合您的業務資料、比較大型語言模型 (LLM) 的效能、透過 AI 代理人執行多步驟任務、快速建置可擴展應用程式,並使用企業級架構進行部署,藉此來加快 AI 開發。生成式 AI 應用程式建置器隨附即用的生成 AI 聊天機器人和 API,可快速整合至您的商業程序或應用程式。
除了 Amazon SageMaker 上部署的 LLM 之外,此解決方案還包括與 Amazon Bedrock 及其 LLM 的整合。該解決方案使用 Amazon Bedrock 工具進行檢索增強生成 (RAG) 來增強 AI 回應,使用 Amazon Bedrock Guardrails 來實作防護機制並減少幻覺,以及使用 Amazon Bedrock 代理程式來為複雜的任務建立工作流程。您還可以使用 LangChain 或 AWS Lambda 連線至其他 AI 模型。從簡單的無程式碼精靈開始,建置 AI 應用程式,用於對話式搜尋、採用生成式 AI 技術的聊天機器人、文字產生和文字摘要。
Total results: 7
- 標題
-
Digital Natives & Startups
-
Artificial Intelligence
-
Artificial Intelligence
優勢
![](https://d1.awsstatic.com/colorset-3A_blue-to-green_gradient_divider.81459b38a56091aebc8c9b5310826c4ef397b007.png)
此解決方案可讓使用者消除部署具有不同組態的多個執行個體,以及比較輸出和效能等繁重工作,藉此快速進行實驗。試驗各種 LLM 的多種組態、提示詞工程、企業知識庫、防護機制、AI 代理人和其他參數。
因為具有多種 LLM 的預先建置連接器,例如透過 Amazon Bedrock 提供的模型,此解決方案讓您能夠靈活地部署您選擇的模型,以及您喜好的 AWS 和領先的 FM 服務。您還可以啟用 Amazon Bedrock 代理程式來完成各種任務和工作流程。
此解決方案採用 AWS Well-Architected 設計原則建置,提供具有高可用性和低延遲的企業級安全性和可擴展性,從而確保以高效能標準無縫整合至您的應用程式中。
藉由整合現有專案或原生連接的額外 AWS 服務,來擴展此解決方案的功能。由於這是開放原始碼應用程式,因此您可以使用隨附的 LangChain 協同運作層或 Lambda 函數來與您選擇的服務建立連線。
技術詳細資訊
![](https://d1.awsstatic.com/colorset-3A_blue-to-green_gradient_divider.81459b38a56091aebc8c9b5310826c4ef397b007.png)
您可以使用實作指南和隨附的 AWS CloudFormation 範本自動部署此架構,可部署三種單獨的架構︰
- 代理程式使用案例 – 代理程式使用案例可讓使用者利用 Amazon Bedrock 代理程式來傳遞要完成的任務。您可以選取模型、以自然語言撰寫一些指示,Amazon Bedrock AI 代理人將藉由連線至您的資料來源或其他 API 來分析、協調和完成任務,以滿足您的請求。
- 文字使用案例 – 文字使用案例讓使用者能透過生成式 AI 體驗自然語言介面。此使用案例可整合到新的或現有的應用程式中,且可透過部署儀表板或透過提供的 URL 單獨部署。
- 部署儀表板 – 部署儀表板是一個可充當管理主控台的 Web UI,管理員使用者可將其用於檢視、管理和建立使用案例。此儀表板讓客戶能夠使用 LLM 和資料的多種組態來快速實驗、反覆運作和部署生成式 AI 應用程式。
Total results: 1
- 發佈日期
-
- 版本:2.1.0
- 發行時間:2024 年 11 月
- 作者︰AWS
- 預估部署時間:10 分鐘
- 預估費用︰請查看詳細資訊
相關內容
![](https://d1.awsstatic.com/colorset-3A_blue-to-green_gradient_divider.81459b38a56091aebc8c9b5310826c4ef397b007.png)