AWS AppSync meluncurkan kemampuan gateway AI dengan integrasi Amazon Bedrock baru di AppSync GraphQL

Dikirim di: 21 Nov 2024

AWS AppSync, layanan manajemen API yang dikelola sepenuhnya yang menghubungkan aplikasi ke peristiwa, data, dan model AI. Saat ini, pelanggan menggunakan AppSync sebagai gateway AI untuk memicu alur kerja AI generatif dan menggunakan langganan yang didukung oleh WebSockets untuk mengembalikan pembaruan progresif dari invokasi yang berjalan lama. Hal ini memungkinkan pelanggan untuk menerapkan pola asinkron. Namun, dalam beberapa kasus, pelanggan perlu membuat panggilan sinkron singkat ke modelnya. AWS AppSync kini mendukung runtime Amazon Bedrock sebagai sumber data untuk GraphQL API, memungkinkan integrasi kemampuan AI generatif tanpa batas. Fitur baru ini memungkinkan developer membuat panggilan sinkron singkat (10 detik atau kurang) ke model dasar dan profil inferensi di Amazon Bedrock langsung dari API AppSync GraphQL.

Integrasi mendukung pemanggilan API converse dan invokeModel. Developer dapat berinteraksi dengan model Anthropic seperti Claude 3.5 Haiku dan Claude 3.5 Sonnet untuk analisis data dan tugas pembuatan objek terstruktur. Developer juga dapat menggunakan model Amazon Titan untuk menghasilkan sematan, membuat ringkasan, atau mengekstrak item tindakan dari notulen rapat.

Untuk invokasi yang berjalan lebih lama, pelanggan dapat terus menggunakan fungsi AWS Lambda dalam mode peristiwa untuk berinteraksi dengan model Bedrock dan mengirim pembaruan progresif ke klien melalui langganan.

Sumber data baru ini tersedia di semua AWS Region tempat AWS AppSync tersedia. Untuk memulai, pelanggan dapat membuka konsol AWS AppSync dan membaca dokumentasi AWS AppSync untuk informasi selengkapnya.