Amazon Bedrock 推出適用於 GenAI 應用程式的工作階段管理 API (預覽版本)
Amazon Bedrock 宣佈推出工作階段管理 API 的預覽版,這是一項新功能,可讓開發人員簡化使用 LangGraph 和 LlamaIndex 等熱門開放原始碼架構建立的生成式 AI 應用程式的狀態和內容管理。 工作階段管理 API 提供現成可用的解決方案,可讓開發人員在多步驟生成式 AI 工作流程中安全地管理狀態和對話內容,無需建置、維護或擴展自訂後端解決方案。
通過保留互動之間的工作階段狀態,工作階段管理 API 可增強工作流程連續性,啟用需要在擴展互動中持續的生成式 AI 應用程式 (例如虛擬助理和多代理研究工作流程)。開發人員可以使用此功能來檢查工作流程階段、儲存中間狀態,以及從失敗或中斷點恢復工作。此外,他們可以暫停和重播工作階段,並利用詳細的追蹤來偵錯和增強其生成式 AI 應用程式。藉由將工作階段視為一級資源,可讓開發人員透過 AWS Identity and Access Management (IAM) 實施精細存取控制,並使用 AWS Key Management Service (KMS) 加密資料,確保安全隔離來自不同使用者工作階段的資料,並支援具有強大隱私保護的多租戶應用程式。
工作階段管理 API 預覽版本現已於美國東部 (俄亥俄)、美國東部 (維吉尼亞北部)、美國西部 (奧勒岡)、亞太地區 (孟買)、亞太地區 (首爾)、亞太地區 (新加坡)、亞太地區 (雪梨)、亞太地區 (東京)、加拿大 (中部)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (蘇黎世) 和南美洲 (聖保羅) 推出。若要進一步了解,請瀏覽技術文件。