簡化 Amazon Bedrock 中 Anthropic Claude 模型的快取管理

張貼日期: 2025年9月2日

Amazon Bedrock 更新 Anthropic Claude 模型的提示快取作業，以提高 Claude 3.5 Haiku、Claude 3.7 和 Claude 4 模型的易用性。

先前，開發人員需要手動管理快取點，並追蹤應重複使用哪些快取區段。有了簡化的快取管理功能，您只需在請求結束時設定快取中斷點即可。系統會自動讀取先前快取的最長前綴詞，因此無需手動指定要重複使用的區段，並減少管理快取邏輯所需的工作量。

透過自動識別和套用正確的快取內容，簡化的快取管理不僅有助於減少手動工作，而且因為快取讀取權杖不會計入您的每分鐘權杖 (TPM) 配額中，所以還有助於釋放更多權杖。這可讓您更輕鬆地建立多回合的工作流程和研究助理，同時提高效能和成本效率。

簡化的快取管理現已適用於在 Amazon Bedrock 上提供 Anthropic Claude 3.5 Haiku、Claude 3.7 和Claude 4 模型的所有區域。若要著手使用，請檢閱 Amazon Bedrock 開發人員指南，並在模型調用中啟用快取。