AWS AppSync lance des fonctionnalités de passerelle IA avec la nouvelle intégration d'Amazon Bedrock dans AppSync GraphQL
AWS AppSync, un service de gestion d'API entièrement géré qui connecte les applications aux événements, aux données et aux modèles d'IA. Aujourd'hui, les clients utilisent AppSync comme passerelle d'IA pour déclencher des flux de travail d'IA générative et utilisent des abonnements, alimentés par WebSockets, pour renvoyer des mises à jour progressives suite à des appels de longue durée. Cela leur permet d'implémenter des modèles asynchrones. Cependant, dans certains cas, les clients doivent effectuer de courtes invocations synchrones vers leurs modèles. AWS AppSync prend désormais en charge l'environnement d'exécution Amazon Bedrock en tant que source de données pour les API GraphQL, permettant ainsi une intégration fluide des fonctionnalités d'IA générative. Cette nouvelle fonctionnalité permet aux développeurs d'effectuer de courtes invocations synchrones (10 secondes ou moins) vers des modèles de fondation et des profils d'inférence dans Amazon Bedrock directement depuis leurs API AppSync GraphQL.
L'intégration prend en charge l'appel des API converse et invokeModel. Les développeurs peuvent interagir avec des modèles anthropiques tels que Claude 3.5 Haiku et Claude 3.5 Sonnet pour l'analyse des données et les tâches de génération d'objets structurés. Ils peuvent également utiliser les modèles Amazon Titan pour générer des vectorisations, créer des résumés ou extraire des actions à partir des comptes rendus de réunions.
Pour les appels de longue durée, les clients peuvent continuer à utiliser les fonctions AWS Lambda en mode événement pour interagir avec les modèles Bedrock et envoyer des mises à jour progressives aux clients via des abonnements.
Cette nouvelle source de données est disponible dans toutes les régions AWS où AWS AppSync est disponible. Pour commencer, les clients peuvent accéder à la console AWS AppSync et consulter la documentation relative à AWS AppSync pour en savoir plus.