Amazon Bedrock unterstützt jetzt globale regionsübergreifende Inferenz für Anthropic Claude Sonnet 4
Claude Sonnet 4 von Anthropic ist jetzt mit globaler regionsübergreifender Inferenz in Amazon Bedrock verfügbar, sodass Sie jetzt das Global Claude Sonnet 4-Inferenzprofil verwenden können, um Inferenzanfragen an jede unterstützte kommerzielle AWS-Region zur Verarbeitung, Optimierung der verfügbaren Ressourcen und für einen höheren Modelldurchsatz weiterzuleiten.
Amazon Bedrock ist ein umfassender, sicherer und flexibler Service zum Erstellen generativer KI-Anwendungen und -Agenten. Wenn Sie On-Demand- und Batch-Inferenz in Amazon Bedrock verwenden, können Ihre Anfragen durch Service Quotas oder zu Spitzenzeiten eingeschränkt sein. Mit regionsübergreifender Inferenz können Sie ungeplante Datenverkehrsspitzen nahtlos verwalten, indem Sie Rechenleistung in verschiedenen AWS-Regionen nutzen. Mit regionsübergreifender Inferenz können Sie den Datenverkehr auf mehrere AWS-Regionen verteilen und so einen höheren Durchsatz ermöglichen. Bisher konnten Sie regionsübergreifende Inferenzprofile auswählen, die an eine bestimmte Region wie die USA, die EU oder APAC gebunden waren. Dadurch wurde automatisch die optimale kommerzielle AWS-Region innerhalb dieser Region ausgewählt, um Ihre Inferenzanfragen zu verarbeiten. Für Ihre generativen KI-Anwendungen, bei denen Sie keine an eine bestimmte Region gebundenen Inferenzprofile auswählen müssen, können Sie jetzt das globale regionsübergreifende Inferenzprofil verwenden, um den Modelldurchsatz weiter zu erhöhen.
Weitere Informationen zur globalen regionsübergreifenden Inferenz in Amazon Bedrock finden Sie in unserer Dokumentation zur Erhöhung des Durchsatzes mit regionsübergreifender Inferenz, unter Unterstützte Regionen und Modelle für Inferenzprofile und folgen Sie den Schritten, die auf der Seite Verwenden eines Inferenzprofils beim Modellaufruf beschrieben sind, um loszulegen.