Amazon Bedrock hiện hỗ trợ tính năng suy luận liên khu vực
Hôm nay, Amazon Bedrock công bố hỗ trợ tính năng suy luận liên khu vực – một tính năng không bắt buộc, cho phép nhà phát triển dùng khả năng điện toán trên các Khu vực AWS khác nhau để kiểm soát liền mạch tình trạng lưu lượng truy cập tăng vọt. Nhờ có tính năng suy luận liên khu vực, khách hàng của Bedrock sử dụng chế độ theo nhu cầu sẽ có thể có giới hạn thông lượng cao hơn (lên đến gấp đôi hạn mức được phân bổ trong khu vực) và khả năng phục hồi được tăng cường khi nhu cầu đạt cao điểm. Khi chọn tham gia, nhà phát triển không còn phải dành thời gian và công sức để dự đoán sự biến động về nhu cầu nữa. Thay vào đó, tính năng suy luận liên khu vực tự động định tuyến lưu lượng truy cập trong nhiều khu vực, đảm bảo tính sẵn sàng tối ưu cho từng yêu cầu và hiệu suất trơn tru hơn khi sử dụng nhiều.
Khách hàng có thể kiểm soát nơi lưu chuyển dữ liệu suy luận bằng cách chọn trong số một tập hợp các khu vực được xác định trước, giúp tuân thủ các yêu cầu về vị trí lưu dữ liệu và luật chủ quyền hiện hành. Hơn nữa, tính năng này ưu tiên khu vực nguồn API Bedrock được kết nối khi có thể, giúp giảm thiểu độ trễ và cải thiện độ nhạy. Nhờ đó, khách hàng có thể nâng cao độ tin cậy, hiệu suất và hiệu quả ứng dụng của họ.
Không mất thêm phí định tuyến khi sử dụng tính năng suy luận liên khu vực. Bạn sẽ bị tính phí dựa trên khu vực bạn thực hiện yêu cầu (khu vực nguồn). Vui lòng xem danh sách các mô hình được hỗ trợ và các khu vực được xác định trước tại đây. Để tìm hiểu thêm về tính năng này và cách bắt đầu, hãy tham khảo tài liệu về Amazon Bedrock hoặc blog này.