Veröffentlicht am: May 7, 2024
Agents für Amazon Bedrock ermöglicht es Entwicklern, generative KI-basierte Anwendungen zu erstellen, die in einer Vielzahl von Anwendungsfällen komplexe Aufgaben erledigen und Antworten auf der Grundlage der Datenquellen eines Unternehmens liefern können. Wenn Agent-Anwendungen skalieren, benötigen sie im Vergleich zu On-Demand-Limits einen höheren Eingabe- und Ausgabemodelldurchsatz.
Ab heute bieten wir Unterstützung für den bereitgestellten Durchsatz mit Agents für Amazon Bedrock. Mit bereitgestelltem Durchsatz können Sie Modelleinheiten für das jeweilige Basismodell erwerben. Eine Modelleinheit bietet einen bestimmten garantierten Durchsatz, der an der maximalen Anzahl von Eingabe- oder Ausgabe-Tokens gemessen wird, die pro Minute verarbeitet werden. Jede Modelleinheit wird stundenweise abgerechnet und Sie können zwischen einer unverbindlichen Laufzeit und einer Laufzeit von einem Monat oder sechs Monaten wählen.
Eine Übersicht der neuen Funktionen von Bedrock Agents finden Sie auf der Dokumentationsseite.