Amazon Bedrock unterstützt jetzt 1-stündiges Prompt-Caching
Amazon Bedrock unterstützt jetzt eine 1-stündige Time-to-Live (TTL)-Option für das Prompt-Caching für ausgewählte Anthropic Claude-Modelle. Mit diesem Update können Sie die Persistenz von zwischengespeicherten Präfixen für Eingabeaufforderungen von standardmäßig 5 Minuten auf 1 Stunde verlängern und so die Kosteneffizienz und Leistung für längere agentenbasierte Workflows und Multi-Turn-Konversationen verbessern.
Bisher blieben zwischengespeicherte Inhalte für einen festgelegten Zeitraum von 5 Minuten aktiv und wurden bei erneuter Verwendung aktualisiert. Mit der neuen TTL-Option von 1 Stunde können Sie den Kontext für Benutzer mit geringerer Aktionsfrequenz oder für komplexe Agenten, die mehr Zeit zwischen den einzelnen Schritten benötigen – wie z. B. Tool-Nutzung, Abruf und Orchestrierung – aufrechterhalten. Die 1-Stunden-TTL ist auch für längere Sitzungen und die Batchverarbeitung nützlich, bei denen Sie möchten, dass zwischengespeicherte Inhalte über längere Zeiträume hinweg erhalten bleiben.
Das 1-stündige TTL-Prompt-Caching ist generell für Claude Sonnet 4.5, Claude Haiku 4.5 und Claude Opus 4.5 von Anthropic in allen kommerziellen AWS-Regionen und AWS GovCloud (USA)-Regionen verfügbar, in denen diese Modelle angeboten werden. Der 1-Stunden-Cache wird zu einem anderen Tarif als der Standard-Cache von 5 Minuten abgerechnet. Weitere Informationen finden Sie in der Dokumentation zu Amazon Bedrock und auf der Amazon-Bedrock-Preisseite.