Publicado en: Nov 30, 2022
Amazon SageMaker admite las pruebas de sombras (shadow testing) que lo ayudarán a validar el rendimiento de los nuevos modelos de machine learning (ML) comparándolos con los modelos de producción. Con las pruebas de sombras, puede detectar posibles errores de configuración y problemas de rendimiento antes de que afecten a los usuarios finales. SageMaker evita que se dediquen semanas a crear una infraestructura para pruebas de sombras, por lo que puede ejecutar modelos en producción más rápido.
Probar las actualizaciones de los modelos implica enviar una copia de las solicitudes de inferencia recibidas por el modelo de producción al nuevo modelo y realizar un seguimiento del rendimiento. Sin embargo, puede demorar varias semanas para crear su propia infraestructura de prueba, duplicar las solicitudes de inferencia y comparar el rendimiento de los modelos. Amazon SageMaker le permite evaluar un nuevo modelo de ML al probar su rendimiento con el modelo de producción implementado en la actualidad. Simplemente, seleccione el modelo de producción con respecto al cual quiere hacer la prueba y SageMaker implementa automáticamente el nuevo modelo para inferencia. Luego, SageMaker enruta una copia de las solicitudes de inferencia recibidas por el modelo de producción al nuevo modelo y crea un tablero en vivo que muestra las diferencias de rendimiento en las métricas clave, incluida la latencia y la tasa de error en tiempo real. Una vez que haya revisado las métricas de rendimiento y validado el rendimiento del modelo, puede implementar rápidamente el modelo en producción.
Para obtener más información, consulte la página web de pruebas de sombras de Amazon SageMaker. Para conocer los precios, consulte Precios de Amazon SageMaker. La compatibilidad de SageMaker con las pruebas de sombras está disponible en forma general en todas las regiones de AWS donde la inferencia de SageMaker está disponible, excepto China (Pekín, operado por Sinnet), China (Ningxia, operado por NWCD) y las regiones de AWS GovCloud (EE. UU.).
Para comenzar, consulte la siguiente lista de recursos: