Công bố chính sách tạm thời và giới hạn tốc độ trong Amazon Bedrock AgentCore
Amazon Bedrock AgentCore công bố hai điều khiển mới: chính sách tạm thời dành cho ủy quyền tác tử có trạng thái và giới hạn tốc độ cho lưu lượng truy cập AI.
Các chính sách tạm thời cho phép bạn xác định các quy tắc ủy quyền có trạng thái để đánh giá từng yêu cầu trong ngữ cảnh các hành động trước đó của tác tử trong một phiên, bởi vì một lệnh gọi công cụ duy nhất có thể an toàn khi đứng riêng biệt, nhưng lại có hại trong bối cảnh trước đó. Với các chính sách tạm thời, bạn có thể thực thi trình tự quy trình công việc, yêu cầu đối số công cụ khớp chính xác với đầu ra của lệnh gọi trước, yêu cầu được con người phê duyệt trước khi thực hiện các hành động đặc quyền và thực thi độ mới dữ liệu.
Giới hạn tốc độ cho phép kiểm soát theo người dùng hoặc theo nhóm đối với lưu lượng truy cập đi đến các công cụ, mô hình và tác tử được kết nối với cổng của bạn. Sử dụng các quy tắc được OAuth hoặc AWS IAM quy định, bạn có thể đặt giới hạn tốc độ cho các yêu cầu trên tất cả các loại mục tiêu, mã thông báo cho mục tiêu suy luận và kết nối đồng thời để giới hạn các phiên đồng thời tồn tại lâu dài, hỗ trợ độ sẵn sàng của dịch vụ hạ nguồn và thực thi phân phối giới hạn hợp lý.
Để biết tình trạng cung cấp theo khu vực và để tìm hiểu thêm, hãy xem tài liệu, đọc blog thông báo và khám phá phần triển khai tham chiếu Dogwood.