Amazon Bedrock meluncurkan Session Management API untuk aplikasi GenAI (Pratinjau)
Amazon Bedrock mengumumkan peluncuran pratinjau Session Management API, kemampuan baru yang memungkinkan pengembang menyederhanakan manajemen status dan konteks untuk aplikasi AI generatif (GenAI) yang dibangun dengan kerangka kerja sumber terbuka populer seperti LangGraph dan LlamaIndex. Session Management API menyediakan solusi out-of-the-box yang memungkinkan pengembang mengelola konteks status dan percakapan dengan aman di seluruh alur kerja GenAI multilangkah, menghilangkan kebutuhan untuk membangun, memelihara, atau menskalakan solusi backend khusus.
Dengan mempertahankan status sesi antar interaksi, Session Management API meningkatkan kontinuitas alur kerja, memungkinkan aplikasi GenAI, seperti asisten virtual dan alur kerja penelitian multiagen, yang memerlukan konteks persisten di seluruh interaksi yang diperluas. Pengembang dapat menggunakan kemampuan ini untuk memeriksa tahapan alur kerja, menyimpan status perantara, dan melanjutkan tugas dari titik kegagalan atau gangguan. Selain itu, mereka dapat menjeda dan memutar ulang sesi dan memanfaatkan jejak terperinci untuk men-debug dan meningkatkan aplikasi GenAI mereka. Dengan memperlakukan sesi sebagai sumber daya kelas satu, kemampuan ini memungkinkan pengembang menerapkan kontrol akses granular melalui AWS Identity and Access Management (IAM) dan mengenkripsi data menggunakan AWS Key Management Service (KMS), memastikan bahwa data dari sesi pengguna yang berbeda diisolasi dengan aman dan mendukung aplikasi multi-tenant dengan perlindungan privasi yang kuat.
Session Management API sekarang tersedia sebagai pratinjau di AS Timur (Ohio), AS Timur (Virginia Utara), AS Barat (Oregon), Asia Pasifik (Mumbai), Asia Pasifik (Seoul), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Tokyo), Kanada (Pusat), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Eropa (Zürich), dan Amerika Selatan (Sao Paulo). Untuk mempelajari selengkapnya, kunjungi dokumentasi teknis.