Amazon Bedrock erweitert API-Unterstützung und führt Cross-Region-Inferenz für OpenAI-Modelle ein
Amazon Bedrock unterstützt jetzt die OpenAI-GPT-5.6-Modelle Sol, Terra und Luna auf dem „bedrock-runtime“-Endpunkt, mit Unterstützung für die Responses-, Converse- und Chat-Completions-APIs. Außerdem wird Unterstützung für Cross-Region-Inferenz hinzugefügt, sodass Kunden Global und Geo Cross-Region-Inferenz nutzen können, um auf höheren Durchsatz und niedrigere Inferenzkosten zuzugreifen.
Cross-Region-Inferenz routet Inferenzanfragen automatisch über mehrere AWS-Regionen hinweg, um Ihnen höheren Durchsatz zu bieten, ohne dass Sie Kapazität über mehrere Regionen hinweg verwalten müssen. Geo Cross-Region-Inferenz routet Anfragen innerhalb einer vordefinierten Geografie, einschließlich neuer US-Geo-Unterstützung (US CRIS) mit diesem Launch, sodass Sie skalieren können, während Daten innerhalb dieser Geografie verarbeitet bleiben. Global Cross-Region-Inferenz hingegen bedient Anfragen aus jeder kommerziellen AWS-Region, in der das Modell verfügbar ist, und bietet Ihnen damit den breitesten Zugriff auf Bedrock-Kapazität und den höchsten Durchsatz bei Nachfragespitzen. Mit Global Cross-Region-Inferenz erhalten Sie außerdem niedrigere Kosten, da Global Inferencing für OpenAI-Modelle pro Token günstiger ist als In-Region- und Geo-Inferenz. Dieser Launch erweitert außerdem die API-Unterstützung. Sie können OpenAI-GPT-Modelle auch mit der Responses API, Chat Completions API und Converse API auf dem bedrock-runtime-Endpunkt verwenden. Da diese nativen OpenAI-APIs jetzt auf bedrock-runtime ausgeführt werden, funktionieren die Modelle mit denselben Kontrollen auf Kontoebene, die Sie bereits für andere Modelle auf Bedrock verwenden: Die Nutzung erscheint in Bedrock Model Invocation Logging, das an Amazon S3 oder Amazon CloudWatch Logs geliefert werden kann, sowie in Amazon-CloudWatch-Metriken zu Aufrufzahlen, Token-Zahlen, Latenz, Drosselungen und Fehlern. Außerdem wird sie in AWS Cost Explorer und im AWS Cost and Usage Report einzeln ausgewiesen, sodass Sie Ausgaben nach Modell zuordnen können.
Cross-Region-Inferenz für OpenAI-Modelle ist in allen AWS-Regionen verfügbar, in denen OpenAI-Modelle auf Amazon Bedrock angeboten werden. Lesen Sie zum Einstieg die Modellkarten für GPT 5.6 (Sol, Tera und Luna) im Amazon-Bedrock-Benutzerhandbuch.