Publicado en: Nov 29, 2023
Ahora puede usar Amazon Bedrock para procesar solicitudes por lotes y obtener respuestas para la evaluación, la experimentación y el procesamiento sin conexión de los modelos.
El uso de la API por lotes hace que sea más eficiente ejecutar inferencias con modelos fundacionales (FM). También le permite agregar respuestas y analizarlas por lotes.
El procesamiento por lotes está disponible en versión preliminar en las regiones de AWS Este de EE. UU. (Norte de Virginia), Oeste de EE. UU. (Oregón), Asia-Pacífico (Singapur), Asia-Pacífico (Tokio) y Europa (Fráncfort).
Para obtener más información sobre la inferencia por lotes en Amazon Bedrock, consulte la referencia de la API de Amazon Bedrock. El precio del modo por lotes es igual al del modo bajo demanda. Para obtener más información, consulte la página de precios de Amazon Bedrock.
Actualización del 27 de febrero de 2024: la publicación original incluía por error el lanzamiento como disponible de forma general, cuando en realidad está en versión preliminar y se ha actualizado en consecuencia.