Amazon OpenSearch Ingestion ahora admite la inferencia de IA por lotes
Ahora puede realizar inferencias de IA por lotes dentro de las canalizaciones de Amazon OpenSearch Ingestion para ampliar e incorporar de manera eficiente grandes conjuntos de datos para los dominios de Amazon OpenSearch Service.
Anteriormente, los clientes utilizaban los conectores de IA de OpenSearch con Amazon Bedrock, Amazon SageMaker y servicios de terceros para realizar inferencias en tiempo real. Las inferencias generan enriquecimientos, como la incrustación de vectores, las predicciones, las traducciones y las recomendaciones, para impulsar los casos de uso de la IA. La inferencia en tiempo real es ideal para requisitos de baja latencia, como los enriquecimientos de transmisión. La inferencia por lotes es ideal para enriquecer grandes conjuntos de datos sin conexión, lo que ofrece un mayor rendimiento y rentabilidad. Ahora puede usar los mismos conectores de IA con las canalizaciones de Amazon OpenSearch Ingestion como un trabajo de inferencia por lotes asincrónico para enriquecer grandes conjuntos de datos, como generar e ingerir hasta miles de millones de incrustaciones vectoriales.
Esta característica está disponible en todas las regiones que admiten Amazon OpenSearch Ingestion y más de 2.17 dominios. Obtenga más información en la documentación.