AWS AppSync 推出了 AI 閘道功能，並在 AppSync GraphQL 中提供了新的 Amazon Bedrock 整合

張貼日期: 2024年11月21日

AWS AppSync 是一項全受管 API 管理服務，可將應用程式連線至事件、資料和 AI 模型。現今，客戶使用 AppSync 作為 AI 閘道來觸發生成式 AI 工作流程，並使用訂閱 (採用 WebSockets 技術) 從長期執行的叫用傳回漸進式更新。這樣可以使其實作非同步模式。但在某些情況下，客戶需要對其模型進行短期同步叫用。AWS AppSync 現在支援以 Amazon Bedrock 執行階段作為 GraphQL API 的資料來源，從而實現生成式 AI 功能的順暢整合。此新功能可讓開發人員直接從其 AppSync GraphQL API 對 Amazon Bedrock 中的基礎模型和推論設定檔進行短期同步叫用 (10 秒或更短)。

整合支援呼叫 Converse 和 InvokeModel API。開發人員可以與 Claude 3.5 Haiku 和 Claude 3.5 Sonnet 等 Anthropic 模型進行互動，以進行資料分析和結構化物件產生任務。他們也可以使用 Amazon Titan 模型來產生嵌入、建立摘要，或從會議記錄中擷取動作項目。

對於執行時間更長的叫用，客戶可以繼續在事件模式下使用 AWS Lambda 函數，以與 Bedrock 模型互動，並透過訂閱將漸進式更新傳送至用戶端。

這個新的資料來源適用於所有提供 AWS AppSync 的 AWS 區域。若要開始使用，客戶可以造訪 AWS AppSync 主控台，並參閱 AWS AppSync 文件以取得詳細資訊。