Amazon Bedrock offre modelli di fondazione (FM) selezionati per l'inferenza batch a un prezzo inferiore del 50% rispetto a quello dell'inferenza on-demand.
Lo scorso anno abbiamo introdotto il supporto per l'inferenza batch in anteprima, che consente di elaborare i prompt in batch per ottenere risposte per la valutazione, la sperimentazione e l'elaborazione offline dei modelli. A partire da oggi, Amazon Bedrock supporta l'inferenza batch nella disponibilità generale in tutte le regioni AWS supportate per i modelli supportati. Utilizza l'inferenza batch per eseguire più richieste di inferenza in modo asincrono e migliorare le prestazioni dell'inferenza del modello su set di dati di grandi dimensioni. Amazon Bedrock offre modelli di fondazione (FM) selezionati dei principali fornitori di intelligenza artificiale come Anthropic, Meta, Mistral AI e Amazon per l'inferenza batch a un prezzo inferiore del 50% rispetto a quello dell'inferenza on-demand. Il tempo di completamento dell'inferenza batch dipende da vari fattori, come la dimensione del processo; tuttavia, per un processo tipico è prevedibile un periodo di completamento di non oltre 24 ore. Per saperne di più, consulta la documentazione sull'inferenza batch e la documentazione di riferimento delle API.
Amazon Bedrock è un servizio completamente gestito che offre una selezione di modelli di fondazione (FM) ad alte prestazioni di aziende leader nel campo dell'intelligenza artificiale come AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI e Amazon tramite un'unica API. Amazon Bedrock offre inoltre un'ampia gamma di funzionalità di cui i clienti hanno bisogno per creare applicazioni di IA generativa con sicurezza, privacy e intelligenza artificiale responsabile integrate. Queste funzionalità consentono di creare applicazioni su misura per molteplici casi d'uso in diversi settori, aiutando le organizzazioni a sbloccare una crescita sostenuta dall'IA generativa e garantendo al contempo la fiducia dei clienti e la governance dei dati.
Per ulteriori informazioni su Amazon Bedrock, vai alla pagina Amazon Bedrock e consulta la documentazione di Amazon Bedrock.