AWS AppSync 推出人工智能入口,并在 AppSync GraphQL 中集成 Amazon Bedrock
发布于:
2024年11月21日
AWS AppSync 是一项完全托管式 API 管理服务,可将应用程序关联到事件、数据和人工智能模型。如今,客户将 AppSync 用作人工智能入口来触发生成式人工智能工作流,并使用由 WebSockets 支持的订阅从长时间运行的调用中获取渐进式更新。这让客户能够实施异步模式。但是在某些情况下,客户需要对其模型进行短暂的同步调用。AWS AppSync 现在支持将 Amazon Bedrock 运行时作为 GraphQL API 的数据源,实现了生成式人工智能功能的无缝集成。这项新功能使开发人员能够直接从其 AppSync GraphQL API 对 Amazon Bedrock 中的基础模型和推理配置文件进行短暂的同步调用(10 秒或更短)。
该集成支持调用 converse 和 invokeModel API。开发人员可以与 Claude 3.5 Haiku 和 Claude 3.5 Sonnet 等 Anthropic 模型进行交互,以执行数据分析和结构化对象生成任务。他们还可以使用 Amazon Titan 模型生成嵌入、创建摘要或从会议记录中提取行动项。
对于运行时间较长的调用,客户可以继续在事件模式下使用 AWS Lambda 函数与 Bedrock 模型交互,并通过订阅向客户端发送渐进式更新。
这种新数据源已在提供 AWS AppSync 的所有 AWS 区域推出。要开始使用,客户可以访问 AWS AppSync 控制台,并访问 AWS AppSync 文档了解更多信息。