AWS AppSync lancia funzionalità di gateway IA con la nuova integrazione di Amazon Bedrock in GraphQL AppSync

Inserito il: 21 nov 2024

AWS AppSync, un servizio di gestione delle API completamente gestito che collega le applicazioni a eventi, dati e modelli di intelligenza artificiale. Allo stato attuale, i clienti utilizzano AppSync come gateway IA per attivare flussi di lavoro di IA generativa e utilizzano le sottoscrizioni, basati su WebSockets, per restituire aggiornamenti progressivi da invocazioni di lunga durata. Ciò consente loro di implementare modelli asincroni. Tuttavia, in alcuni casi, i clienti devono effettuare brevi invocazioni sincrone ai propri modelli. AWS AppSync ora supporta il runtime di Amazon Bedrock come origine dati per le API GraphQL, consentendo una perfetta integrazione delle funzionalità di IA generativa. Questa nuova funzionalità consente agli sviluppatori di effettuare brevi invocazioni sincrone (10 secondi o meno) ai modelli di base e ai profili di inferenza in Amazon Bedrock direttamente dalle loro API GraphQL do AppSync.

L'integrazione supporta la chiamata delle API converse e invokeModel. Gli sviluppatori possono interagire con modelli antropici come Claude 3.5 Haiku e Claude 3.5 Sonnet per l'analisi dei dati e le attività di generazione di oggetti strutturati. Possono anche utilizzare i modelli Amazon Titan per generare embedding, creare riepiloghi o estrarre azioni dai verbali delle riunioni.

Per invocazioni di lunga durata, i clienti possono continuare a utilizzare le funzioni AWS Lambda in modalità evento per interagire con i modelli Bedrock e inviare aggiornamenti progressivi ai clienti tramite sottoscrizioni.

Questa nuova origine dati è disponibile in tutte le regioni AWS in cui è disponibile AWS AppSync. Per iniziare, i clienti possono visitare la console AWS AppSync e fare riferimento alla documentazione di AWS AppSync per ulteriori informazioni.