Amazon Bedrock ra mắt API Quản lý phiên cho các ứng dụng GenAI (xem trước)
Amazon Bedrock thông báo ra mắt bản xem trước của API Quản lý phiên, một khả năng mới giúp nhà phát triển đơn giản hóa việc quản lý trạng thái và ngữ cảnh cho các ứng dụng AI tạo sinh (GenAI) được xây dựng bằng các khung nguồn mở phổ biến như LangGraph và LlamaIndex. API Quản lý phiên cung cấp một giải pháp dùng được ngay để nhà phát triển quản lý trạng thái và ngữ cảnh trò chuyện một cách an toàn trên các quy trình làm việc GenAI nhiều bước, loại bỏ nhu cầu xây dựng, duy trì hoặc điều chỉnh quy mô các giải pháp backend tùy chỉnh.
Nhờ bảo lưu trạng thái phiên giữa các hoạt động tương tác, API Quản lý phiên tăng cường tính liên tục của quy trình làm việc, cho phép sử dụng các ứng dụng GenAI (như trợ lý ảo và quy trình nghiên cứu nhiều tác tử) đòi hỏi có ngữ cảnh liên tục giữa các hoạt động tương tác mở rộng. Nhà phát triển có thể sử dụng khả năng này để kiểm tra các giai đoạn của quy trình làm việc, lưu trạng thái trung gian và tiếp tục tác vụ từ các điểm thất bại hoặc điểm gián đoạn. Ngoài ra, họ có thể tạm dừng và phát lại phiên, cũng như tận dụng các dấu vết chi tiết để gỡ lỗi và nâng cao các ứng dụng GenAI. Bằng cách coi phiên như tài nguyên hạng nhất, khả năng này giúp nhà phát triển thực thi việc kiểm soát quyền truy cập chi tiết thông qua Quản lý danh tính và truy cập trong AWS (IAM), mã hóa dữ liệu bằng Dịch vụ quản lý khóa (KMS) của AWS, bảo đảm dữ liệu từ các phiên khác nhau của người dùng được cách ly an toàn và hỗ trợ ứng dụng nhiều tác tử bằng các biện pháp bảo vệ quyền riêng tư mạnh mẽ.
API Quản lý phiên hiện được cung cấp dưới dạng xem trước ở Miền Đông Hoa Kỳ (Ohio), Miền Đông Hoa Kỳ (Bắc Virginia), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Mumbai), Châu Á Thái Bình Dương (Seoul), Châu Á Thái Bình Dương (Singapore), Châu Á Thái Bình Dương (Sydney), Châu Á Thái Bình Dương (Tokyo), Canada (Miền Trung), Châu Âu (Frankfurt), Châu Âu (Ireland), Châu Âu (London), Châu Âu (Paris), Châu Âu (Zurich) và Nam Mỹ (São Paulo). Để tìm hiểu thêm, hãy tham khảo tài liệu kỹ thuật.