Quy tắc bảo vệ dành cho Amazon Bedrock thông báo tăng giới hạn hạn ngạch dịch vụ
Quy tắc bảo vệ dành cho Amazon Bedrock thông báo việc tăng giới hạn hạn ngạch dịch vụ mặc định, cho phép bạn điều chỉnh quy mô các ứng dụng AI tạo sinh để có lưu lượng truy cập cao hơn. Quy tắc bảo vệ dành cho Bedrock cung cấp các biện pháp bảo vệ có thể định cấu hình để lọc nội dung có hại và không mong muốn trên các danh mục, các cuộc tấn công nhanh, bộ lọc chủ đề nhằm xác định và ngăn chặn các chủ đề cụ thể, bộ lọc thông tin nhạy cảm tiến hành chỉnh sửa thông tin nhận dạng cá nhân (PII), cung cấp bộ lọc từ để chặn các từ cụ thể, phát hiện các lỗi ảo giác của mô hình bằng cách xác định tính đúng đắn và mức độ phù hợp của các phản hồi mà mô hình đưa ra, cũng như xác định, sửa chữa và giải thích các tuyên bố thực tế trong phản hồi của mô hình thông qua Suy luận tự động. Các chính sách này có thể được điều chỉnh cho phù hợp với trường hợp sử dụng cụ thể của bạn và các chính sách AI có trách nhiệm. Có thể áp dụng quy tắc bảo vệ trên mọi mô hình nền tảng, bao gồm cả mô hình được lưu trữ bằng Amazon Bedrock, mô hình tự lưu trữ và mô hình của bên thứ ba sử dụng API ApplyGuardrail, đem đến trải nghiệm người dùng nhất quán và chuẩn hóa các biện pháp kiểm soát an toàn cũng như quyền riêng tư.
Bắt đầu từ hôm nay, quy tắc bảo vệ dành cho Bedrock cho phép bạn điều chỉnh quy mô các ứng dụng AI tạo sinh của mình cho lưu lượng truy cập cao hơn với giới hạn hạn ngạch dịch vụ tăng lên giúp xử lý nhiều giao dịch mỗi giây (TPS) và nhiều đơn vị văn bản mỗi giây (TUPS) hơn. Với sự gia tăng này, bạn hiện có thể xử lý tối đa 50 lệnh gọi mỗi giây bằng API ApplyGuardrail, tăng gấp đôi so với giới hạn trước đó là 25 lệnh gọi mỗi giây. Giờ đây, bộ lọc nội dung, bộ lọc thông tin nhạy cảm và bộ lọc từ có thể xử lý tới 200 TUPS, tăng gấp 8 lần so với giới hạn trước đó là 25 TUPS.
Các giới hạn này áp dụng tại khu vực AWS ở Miền Đông Hoa Kỳ (Bắc Virginia) và Miền Tây Hoa Kỳ (Oregon).
Để tìm hiểu thêm, hãy xem tài liệu kỹ thuật và trang sản phẩm Quy tắc bảo vệ dành cho Bedrock.