Amazon Bedrock 推出适用于 GenAI 应用程序的会话管理 API(预览版)
Amazon Bedrock 宣布推出会话管理 API 预览版,这项新功能使开发人员能够简化使用 LangGraph 和 LlamaIndex 等常用开源框架构建的生成式人工智能 (GenAI) 应用程序的状态和上下文管理。会话管理 API 提供了开箱即用的解决方案,使开发人员能够安全地管理多步骤 GenAI 工作流程中的状态和对话上下文,而无需构建、维护或扩展自定义后端解决方案。
通过保留交互之间的会话状态,会话管理 API 增强了工作流程的连续性,为扩展交互中需要持久化上下文的 GenAI 应用程序(如虚拟助手和多座席研究工作流程)提供助力。开发人员可以使用此功能检查工作流程阶段,保存中间状态,并从故障点或中断点恢复任务。此外,他们可以暂停和重播会话,并利用详细的跟踪来调试和增强其 GenAI 应用程序。通过将会话视为一流资源,该功能使开发人员能够通过 AWS Identity and Access Management (IAM) 实施精细的访问控制,并使用 AWS Key Management Service (KMS) 加密数据,从而确保安全隔离来自不同用户会话的数据,并支持具有强大隐私保护的多租户应用程序。
会话管理 API 现已在以下区域提供预览版:美国东部(俄亥俄州)、美国东部(弗吉尼亚州北部)、美国西部(俄勒冈州)、亚太地区(孟买)、亚太地区(首尔)、亚太地区(新加坡)、亚太地区(悉尼)、亚太地区(东京)、加拿大(中部)、欧洲地区(法兰克福)、欧洲地区(爱尔兰)、欧洲地区(伦敦)、欧洲地区(巴黎)、欧洲(苏黎世)和南美洲(圣保罗)。要了解更多信息,请访问技术文档。