Amazon Bedrock hiện hỗ trợ thời lượng 1 giờ để lưu câu lệnh vào bộ nhớ đệm
Amazon Bedrock hiện hỗ trợ tùy chọn thời gian tồn tại (TTL) 1 giờ để lưu câu lệnh vào bộ nhớ đệm cho một số mô hình Claude của Anthropic chọn lọc. Với hạng mục cập nhật này, bạn có thể kéo dài thời gian tồn tại của các tiền tố câu lệnh được lưu trong bộ nhớ đệm từ mặc định 5 phút lên 1 giờ, qua đó cải thiện hiệu quả chi phí và hiệu suất cho các quy trình công việc tác tử chạy trong thời gian dài và các hội thoại nhiều lượt.
Trước đây, nội dung trong bộ nhớ đệm chỉ có thời hạn hiệu lực cố định 5 phút và sẽ được làm mới mỗi khi được sử dụng lại. Với tùy chọn TTL 1 giờ mới, bạn có thể duy trì ngữ cảnh cho các tương tác người dùng ít thường xuyên hơn hoặc cho các tác tử phức tạp cần nhiều thời gian giữa các bước, chẳng hạn như sử dụng công cụ, truy xuất và điều phối. TTL 1 giờ cũng phù hợp cho các phiên kéo dài và các tác vụ xử lý hàng loạt, nơi bạn cần nội dung trong bộ nhớ đệm duy trì hiệu lực trong khoảng thời gian lâu hơn.
Tính năng lưu câu lệnh vào bộ nhớ đệm với TTL 1 giờ được triển khai rộng rãi cho Claude Sonnet 4.5, Claude Haiku 4.5 và Claude Opus 4.5 của Anthropic ở tất cả các Khu vực AWS thương mại và Khu vực AWS GovCloud (Hoa Kỳ) nơi có cung cấp các mô hình này. Bộ nhớ đệm 1 giờ được tính phí ở mức giá khác với bộ nhớ đệm 5 phút tiêu chuẩn. Để tìm hiểu thêm, hãy tham khảo tài liệu về Amazon Bedrock và trang Định giá Amazon Bedrock.