Amazon Bedrock – Preisgestaltung

Preisbeispiele

• AI21 Labs

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Jurrasic-2-Mid-Modell von AI21, eine Eingabe von 10 000 Token an Eingabetext zu einer Ausgabe von 2 000 Token zusammenzufassen.
  

  Anfallende Gesamtkosten = 10 000 Token / 1 000 * 0,0125 USD + 2 000 Token / 1 000 * 0,0125 USD = 0,15 USD
  

• Amazon

  On-Demand-Preise

  Ein Anwendungsentwickler sendet stündlich die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Lite-Modell von Amazon Titan Text, um eine Eingabe von 2 000 Token an Eingangstext zu einer Ausgabe von 1 000 Token zusammenzufassen.

  Anfallende stündliche Gesamtkosten = 2 000 Token / 1 000 * 0,0003 USD + 1 000 Token / 1 000 * 0,0004 USD = 0,001 USD

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Basismodell von Amazon Titan Image Generator, um 1 000 Bilder mit einer Größe von 1024 x 1024 in Standardqualität zu generieren.

  Anfallende Gesamtkosten = 1 000 Bilder * 0,01 USD pro Bild = 10 USD

  Preise für die Anpassung (Feinabstimmung und kontinuierliche Vorschulung)

  Ein Anwendungsentwickler passt ein Amazon-Titan-Image-Generator-Modell mithilfe von 1 000 Bild-Text-Paaren an. Nach der Schulung verwendet der Entwickler eine Stunde lang den vom benutzerdefinierten Modell bereitgestellten Durchsatz, um die Leistung des Modells zu bewerten. Das fein abgestimmte Modell wird einen Monat lang gespeichert. Nach der Auswertung verwendet der Entwickler den bereitgestellten Durchsatz (1 Monat Vertragsbindung), um das benutzerdefinierte Modell zu hosten.

  Für die Feinabstimmung fallen monatlich die folgenden Kosten an = Training der Feinabstimmung (0,005 USD * 500 * 64), wobei 0,005 USD der Preis pro betrachtetes Bild, 500 die Anzahl der Schritte und 64 die Batch-Größe + benutzerdefinierter Modellspeicher pro Monat (1,95 USD) + 1 Stunde benutzerdefinierte Modellinferenz (21 USD) = 160 USD + 1.95 USD + 21 = 182,95 USD
  

  Preise für bereitgestellten Durchsatz

  Ein Anwendungsentwickler kauft zwei Modelleinheiten von Amazon Titan Text Express mit 1 Monat Vertragsbindung für seinen Anwendungsfall zur Textzusammenfassung.

  Anfallende monatliche Gesamtkosten = 2 Modelleinheiten * 18,40 USD / Stunde * 24 Stunden * 31 Tage = 27 379,20 USD

  Ein Anwendungsentwickler kauft eine Modelleinheit des Basismodells von Amazon Titan Image Generator mit 1 Monat Vertragsbindung.

  Anfallende Gesamtkosten = 1 Modelleinheit * 16,20 USD * 24 Stunden * 31 Tage = 12 052,80 USD

• Anthropic

  On-Demand-Preise

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock in der Region USA West (Oregon): Eine Anfrage an das Claude-Modell von Anthropic, eine Eingabe von 11 000 Token an Eingangstext zu einer Ausgabe von 4 000 Token zusammenzufassen.

  Anfallende Gesamtkosten = 11 000 Token / 1 000 * 0,008 USD + 4 000 Token / 1 000 * 0,024 USD = 0,088 USD + 0,096 USD = 0,184 USD
  

  Preise für bereitgestellten Durchsatz

  Ein Anwendungsentwickler kauft eine Modelleinheit von Anthropic Claude Instant in der Region USA West (Oregon):
  

  Anfallende monatliche Gesamtkosten = 1 Modelleinheit * 39,60 USD * 24 Stunden * 31 Tage = 29 462,40 USD

• Cohere

  On-Demand-Preise

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anforderung an das Command-Modell von Cohere, eine Eingabe von 6 000 Token an Eingabetext zu einer Ausgabe von 2 000 Token zusammenzufassen.

  Anfallende Gesamtkosten = 6 000 Token / 1 000 * 0,0015 USD + 2 000 Token / 1 000 * 0,0020 USD = 0,013 USD

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Command-Light-Modell von Cohere, eine Eingabe von 6 000 Token an Eingabetext zu einer Ausgabe von 2 000 Token zusammenzufassen.

  Anfallende Gesamtkosten = 6 000 Token / 1 000 * 0,0003 USD + 2 000 Token / 1 000 * 0,0006 USD = 0,003 USD

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das englische oder mehrsprachige Embed-Modell von Cohere, um Einbettungen für 10 000 Eingabe-Token zu generieren.

  Anfallende Gesamtkosten = 10 000 Token / 1 000 * 0,0001 USD = 0,001 USD

  Preise für die Anpassung (Feinabstimmung)

  Ein Anwendungsentwickler passt ein Cohere-Command-Modell mithilfe von 1 000 Datentokens an. Nach der Schulung verwendet der Entwickler eine Stunde lang den vom benutzerdefinierten Modell bereitgestellten Durchsatz, um die Leistung des Modells zu bewerten. Das fein abgestimmte Modell wird einen Monat lang gespeichert. Nach der Auswertung verwendet der Entwickler den bereitgestellten Durchsatz (1 Monat Vertragsbindung), um das benutzerdefinierte Modell zu hosten.

  Anfallende monatliche Kosten für die Feinabstimmung = Training zur Feinabstimmung (0,004 USD * 1 000) + Speicherplatz für benutzerdefinierte Modelle pro Monat (1,95 USD) + eine Stunde Inferenz für benutzerdefinierte Modelle (49,50 USD) = 55,45 USD
  

  Monatliche Kosten für den bereitgestellten Durchsatz (1 Monat Vertragsbindung) des benutzerdefinierten Modells = 39,60 USD

  Preise für bereitgestellten Durchsatz
  

  Ein Anwendungsentwickler kauft eine Modelleinheit von Cohere Command mit 1 Monat Vertragsbindung für seinen Anwendungsfall zur Textzusammenfassung.

  Anfallende monatliche Gesamtkosten = 1 Modelleinheit * 39,60 USD * 24 Stunden * 31 Tage = 29 462,40 USD

• Meta Llama

  On-Demand-Preise

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Chat-Modell von Llama 2 (13B) von Meta, um eine Eingabe von 2 000 Token an Eingabetext zu einer Ausgabe von 500 Token zusammenzufassen.

  Anfallende Gesamtkosten = 2 000 Token / 1 000 * 0,00075 USD + 500 Token / 1 000 * 0,001 USD = 0,002 USD

  Preise für die Anpassung (Feinabstimmung)

  Ein Anwendungsentwickler passt das vortrainierte Llama 2 (70B)-Modell mithilfe von 1 000 Datentokens an. Nach der Schulung verwendet der Entwickler eine Stunde lang den vom benutzerdefinierten Modell bereitgestellten Durchsatz, um die Leistung des Modells zu bewerten. Das fein abgestimmte Modell wird einen Monat lang gespeichert. Nach der Auswertung verwendet der Entwickler den bereitgestellten Durchsatz (1 Monat Vertragsbindung), um das benutzerdefinierte Modell zu hosten.

  Anfallende monatliche Kosten für die Feinabstimmung = Training zur Feinabstimmung (0,00799 USD * 1 000) + Speicherplatz für benutzerdefinierte Modelle pro Monat (1,95 USD) + 1 Stunde Inferenz für benutzerdefinierte Modelle (23,50 USD) = 33,44 USD

  Anfallende monatliche Kosten für den bereitgestellten Durchsatz (1 Monat Vertragsbindung) des benutzerdefinierten Modells = 21,18 USD

  Preise für bereitgestellten Durchsatz

  Ein Anwendungsentwickler kauft eine Modelleinheit von Meta Llama 2 mit einer Vertragsbindung von einem Monat für seinen Anwendungsfall zur Textzusammenfassung.

  Anfallende monatliche Gesamtkosten = 1 Modelleinheit * 21,18 USD * 24 Stunden * 31 Tage = 15 757,92 USD

• Mistral AI

  On-Demand-Preise

  Ein Anwendungsentwickler sendet stündlich die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Mistral-7B-Modell, um eine Eingabe von 2 000 Token an Eingangstext zu einer Ausgabe von 1 000 Token zusammenzufassen.

  Anfallende stündliche Gesamtkosten = 2 000 Token / 1 000 * 0,00015 USD + 1000 Token / 1 000 * 0,0002 USD = 0,0005 USD

  Ein Anwendungsentwickler sendet stündlich die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das Mixtral-8x7B-Modell, um eine Eingabe von 2 000 Token an Eingangstext zu einer Ausgabe von 1 000 Token zusammenzufassen.

  Anfallende stündliche Gesamtkosten = 2 000 Token / 1 000 * 0,00045 USD + 1 000 Token / 1 000 * 0,0007 USD = 0,0016 USD

  Ein Anwendungsentwickler führt stündlich die folgenden API-Aufrufe an Amazon Bedrock durch: Eine Anfrage an das Mistral-Large-Modell, um eine Eingabe von 2 000 Token an Eingabetext zu einer Ausgabe von 1 000 Token zusammenzufassen. 

  Anfallende stündliche Gesamtkosten = 2 000 Token / 1 000 * 0,008 USD + 1 000 Token / 1 000 * 0,024 USD = 0,04 USD
  
  

• Stability AI

  On-Demand-Preise

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das SDXL-Modell, ein Bild mit einer Größe von 512 x 512 mit einer Schrittgröße von 70 zu generieren (Premium-Qualität).

  Anfallende Gesamtkosten = 1 Bild * 0,036 USD pro Bild = 0,036 USD

  Ein Anwendungsentwickler sendet die folgenden API-Aufrufe an Amazon Bedrock: Eine Anfrage an das SDXL-1.0-Modell, ein Bild mit einer Größe von 1024 x 1024 mit einer Schrittgröße von 70 zu generieren (Premium-Qualität).

  Anfallende Gesamtkosten = 1 Bild * 0,08 USD pro Bild = 0,08 USD

  Preise für bereitgestellten Durchsatz

  Ein Anwendungsentwickler kauft eine Modelleinheit von SDXL 1.0 mit 1 Monat Vertragsbindung.

  Anfallende Gesamtkosten = 1 * 49,86 USD * 24 Stunden * 31 Tage = 37 095,84 USD

• Modellevaluierung

  Beispiel 1 zur Modellevaluierung:

  On-Demand-Preise
  Ein Anwendungsentwickler übermittelt einen Datensatz zur menschenbasierten Modellevaluierung mit Anthropic Claude 2.1 und Anthropic Claude Instant in der AWS-Region USA Ost (Nord-Virginia).

  Der Datensatz enthält 50 Eingabeaufforderungen, und der Entwickler benötigt 1 Mitarbeiter, um jeden Eingabeaufforderungs-/Antwortsatz zu bewerten (konfigurierbar bei der Erstellung des Bewertungsauftrags als Parameter „Mitarbeiter pro Eingabeaufforderung“).
  
  Dieser Evaluierungsauftrag umfasst 50 Aufgaben (1 Aufgabe für jedes Eingabeaufforderungs-/Antwortpaar pro Mitarbeiter). Die 50 Eingabeaufforderungen ergeben zusammen 5 000 Eingabe-Token und die zugehörigen Antworten ergeben zusammen 15 000 Token für Anthropic Claude Instant und 20 000 Token für Anthropic Claude 2.1.
  
  Für diesen Modellevaluierungsauftrag fallen folgende Kosten an:

  Element	Anzahl der Eingabe-Tokens	Preis pro 1 000 Eingabe-Token	Kosten der Eingabe	Anzahl der Ausgabe-Tokens	Preis pro 1 000 Ausgabe-Tokens	Kosten der Ausgabe	Anzahl menschlicher Aufgaben	Preis pro menschlicher Aufgabe	Kosten menschlicher Aufgaben	Gesamtsumme
  Claude Instant Inference	5 000	0,0008 USD	0,004 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Inference	5 000	0,008 USD	0,04 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Menschliche Aufgaben							50	0,21 USD	10,50 USD	10,50 USD
  Gesamtsumme										11,06 USD

  Beispiel 2 zur Modellevaluierung:

  On-Demand-Preise
  Ein Anwendungsentwickler übermittelt einen Datensatz zur menschenbasierten Modellevaluierung mit Anthropic Claude 2.1 und Anthropic Claude Instant in der AWS-Region USA Ost (Nord-Virginia).
  
  Der Datensatz enthält 50 Eingabeaufforderungen, und der Entwickler benötigt 2 Mitarbeiter, um jeden Eingabeaufforderungs-/Antwortsatz zu bewerten (konfigurierbar bei der Erstellung des Bewertungsauftrags als Parameter „Mitarbeiter pro Eingabeaufforderung“). Dieser Evaluierungsauftrag umfasst 100 Aufgaben (1 Aufgabe für jeden Eingabeaufforderungs-/Antwortsatz pro Mitarbeiter: 2 Mitarbeiter x 50 Eingabeaufforderungs-/Antwortsätze = 100 menschliche Aufgaben).
  
  Die 50 Eingabeaufforderungen ergeben zusammen 5 000 Eingabe-Token und die zugehörigen Antworten ergeben zusammen 15 000 Token für Anthropic Claude Instant und 20 000 Token für Anthropic Claude 2.1.
  
  Für diesen Modellevaluierungsauftrag fallen folgende Kosten an:
  

  Element	Anzahl der Eingabe-Tokens	Preis pro 1 000 Eingabe-Token	Kosten der Eingabe	Anzahl der Ausgabe-Tokens	Preis pro 1 000 Ausgabe-Tokens	Kosten der Ausgabe	Anzahl menschlicher Aufgaben	Preis pro menschlicher Aufgabe	Kosten menschlicher Aufgaben	Gesamtsumme
  Claude Instant Inference	5 000	0,0008 USD	0,0040 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Inference	5 000	0,008 USD	0,0400 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Menschliche Aufgaben							100	0,21 USD	21,00 USD	21,00 USD
  Gesamtsumme										21,56 USD

• Amazon-Bedrock-Integritätsschutz

  Beispiel 1: Chatbot für den Kundensupport
  Ein Anwendungsentwickler erstellt einen Chatbot für den Kundensupport und verwendet Inhaltsfilter, um schädliche Inhalte zu blockieren, und abgelehnte Themen, um unerwünschte Anfragen und Antworten herauszufiltern.
  
  Der Chatbot bedient 1 000 Benutzeranfragen pro Stunde. Jede Benutzerabfrage hat eine durchschnittliche Eingabelänge von 200 Zeichen und erhält eine FM-Antwort von 1 500 Zeichen.
  
  Jede Benutzerabfrage von 200 Zeichen entspricht einer Texteinheit.
  
  Jede FM-Antwort von 1 500 Zeichen entspricht 2 Texteinheiten.
  
  Pro Stunde verarbeitete Texteinheiten = (1+2) * 1 000 Abfragen = 3 000 Texteinheiten
  
  Anfallende Gesamtkosten pro Stunde für Inhaltsfilter und abgelehntes Thema = 3 000 * (0,75 USD + 1,00 USD) / 1 000 = 5,25 USD

   

  Beispiel 2: Zusammenfassung des Callcenter-Transkripts
  Ein Anwendungsentwickler erstellt eine Anwendung, um Chat-Transkripte zwischen Benutzern und Support-Kundendienstmitarbeitern zusammenzufassen. Diese verwendet einen Filter für vertrauliche Informationen, um persönlich identifizierbare Informationen (PII) in den generierten Zusammenfassungen für 10 000 Konversationen zu redigieren.
  
  Jede generierte Zusammenfassung hat durchschnittlich 3 500 Zeichen, was 4 Texteinheiten entspricht.
  
  Anfallende Gesamtkosten für die Zusammenfassung von 10 000 Konversationen = 10 000 * 4 * (0,1 / 1 000 USD) = 4 USD

  Element	Anzahl der Eingabe-Tokens	Preis pro 1 000 Eingabe-Token	Kosten der Eingabe	Anzahl der Ausgabe-Tokens	Preis pro 1 000 Ausgabe-Tokens	Kosten der Ausgabe	Anzahl menschlicher Aufgaben	Preis pro menschlicher Aufgabe	Kosten menschlicher Aufgaben	Gesamtsumme
  Claude Instant Inference	5 000	0,0008 USD	0,004 USD	15 000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Inference	5 000	0,008 USD	0,04 USD	20 000	0,024 USD	0,48 USD				0,52 USD
  Menschliche Aufgaben							100	0,21 USD	21,00 USD	21,00 USD
  Gesamtsumme										21,56 USD

• Benutzerdefinierter Modellimport

  Preisbeispiel: Ein Anwendungsentwickler importiert ein angepasstes Modell vom Typ Llama 3.1 mit einer Größe von 8 B Parametern und einer Sequenzlänge von 128 K in der Region us-east-1 und löscht das Modell nach einem Monat. Dies erfordert 2 benutzerdefinierte Modelleinheiten. Der Preis pro Minute beträgt also 0,1570 USD, da 2 benutzerdefinierte Modelleinheiten erforderlich sind. Die Lagerkosten für 2 benutzerdefinierte Modelleinheiten würden sich für den Monat auf 3,90 USD belaufen.

  Der Import des Modells ist kostenlos. Der erste erfolgreiche Aufruf erfolgt um 8:03 Uhr. Zu diesem Zeitpunkt beginnt die Messung. Die 5-Minuten-Messfenster sind von 8:03 Uhr bis 8:07 Uhr; 8:07 Uhr bis 8:11 Uhr usw. Wenn innerhalb eines Zeitraums von 5 Minuten mindestens ein Aufruf erfolgt, wird das Fenster für die Abrechnung als aktiv betrachtet. Wenn zwischen 8:07 Uhr und 8:11 Uhr kein Aufruf erfolgt, wird die Messung um 8:11 Uhr angehalten. In diesem Fall würde die Rechnung wie folgt berechnet: 0,1570 USD x 5 Minuten x 3 Fünf-Minuten-Fenster = 2,355 USD.

• Flows

  Beispiel: Zusammenfassung von Nachrichten
  Ein Anwendungsentwickler erstellt einen Flow, um die Zusammenfassung von Nachrichten für Händler zu automatisieren. Der Flow umfasst einen Eingabeknoten, der ein Array von 10 S3-Speicherorten für Artikel von 10 großen Nachrichtenagenturen aufnimmt (1 Knotenübergang). Anschließend wird ein Iterator-Knoten verwendet, um die 10 Speicherorte zu durchlaufen, die Datei von jedem S3-Speicherort mithilfe des S3-Abfrageknotens abzurufen und ein Modell mit einem Prompt-Knoten aufzurufen, um jede Datei zusammenzufassen (+ 10 Dateien x 3 Knotenübergänge). Anschließend werden alle Ergebnisse mithilfe eines Kollektorknotens gesammelt, die Ergebnisse mithilfe des S3-Speicherknotens in S3 geschrieben und in einem Ausgabeknoten abgeschlossen (+ 3 Knotenübergänge). Sie führen diesen Flow an jedem Wochentag jede halbe Stunde durch.
  
  Die Anzahl der Knotenübergänge pro Flow-Ausführung ist: 1 + 10*3 + 3 = 34 Knotenübergänge/Flow-Ausführung
  
  Die Anzahl der Flow-Ausführungen pro Monat ist: 24 Stunden *2* 5 Tage * 4 Wochen = 960 Flow-Ausführungen/Monat.
  
  Die monatliche Gesamtrechnung beträgt: 34 * 960 * 0,035/1 000 USD = 1,14 USD

  Zusätzliche Gebühren
  Die Rechnung enthält auch zusätzliche Gebühren für AWS-Services, die bei der Ausführung des Workflows verwendet werden, einschließlich der Nutzung von Amazon S3 in den Abruf- und Speicherknoten und der Nutzung des Amazon Bedrock Foundation Model im Prompt-Knoten.