ขณะนี้ Amazon Bedrock รองรับระยะเวลา 1 ชั่วโมงสำหรับการแคชพร้อมท์แล้ว
ขณะนี้ Amazon Bedrock รองรับตัวเลือก Time-to-Live (TTL) เป็น 1 ชั่วโมงสำหรับการแคชพร้อมท์สำหรับโมเดล Anthropic Claude ที่เลือกไว้ ด้วยการอัปเดตนี้จะทำให้คุณสามารถขยายระยะเวลาการคงอยู่ของพรีฟิกซ์พร้อมท์ที่แคชไว้จากค่าเริ่มต้น 5 นาทีเป็น 1 ชั่วโมง ซึ่งช่วยเพิ่มประสิทธิภาพด้านค่าใช้จ่ายและประสิทธิภาพสำหรับเวิร์กโฟลว์แบบ Agent ที่ทำงานเป็นเวลานานและการสนทนาแบบหลายรอบ
ก่อนหน้านี้ เนื้อหาที่แคชไว้จะคงอยู่ภายในช่วงเวลาคงที่ 5 นาที และจะรีเฟรชเมื่อมีการนำมาใช้งานซ้ำ ด้วยตัวเลือก TTL แบบ 1 ชั่วโมงใหม่จะทำให้คุณสามารถคงบริบทสำหรับผู้ใช้ที่มีการโต้ตอบไม่บ่อย หรือสำหรับ AI Agent ที่ซับซ้อนซึ่งต้องใช้เวลาระหว่างขั้นตอนมากขึ้น เช่น การใช้เครื่องมือ การดึงข้อมูล และการควบคุมระบบ TTL แบบ 1 ชั่วโมงยังมีประโยชน์สำหรับเซสชันที่ยาวนานและการประมวลผลแบบแบตช์ ซึ่งคุณต้องการให้เนื้อหาที่แคชไว้คงอยู่ตลอดช่วงเวลาที่ยาวขึ้น
การแคชพร้อมท์แบบ TTL 1 ชั่วโมงพร้อมให้บริการทั่วไปสำหรับ Anthropic’s Claude Sonnet 4.5, Claude Haiku 4.5 และ Claude Opus 4.5 ใน AWS Region เชิงพาณิชย์ทั้งหมด และในรีเจี้ยน AWS GovCloud (สหรัฐฯ) ที่มีโมเดลเหล่านี้ให้บริการ แคชแบบ 1 ชั่วโมงจะคิดค่าบริการในอัตราที่แตกต่างจากแคชแบบมาตรฐาน 5 นาที หากต้องการเรียนรู้เพิ่มเติม โปรดไปที่เอกสารประกอบของ Amazon Bedrock และหน้าค่าบริการ Amazon Bedrock