Publicado en: Jan 27, 2022
Nos complace anunciar el lanzamiento de las explicaciones de predicciones para los modelos de machine learning (ML) de Amazon Fraud Detector, disponibles tanto a través de la consola de AWS como del SDK. Las explicaciones de predicciones informan sobre el impacto de los predictores (o variables de entrada) en una puntuación de fraude, lo que ayuda a los clientes a lograr una mayor visibilidad respecto de cómo un modelo de ML ha calculado una determinada puntuación de fraude. Amazon Fraud Detector (AFD) es un servicio completamente administrado que facilita la identificación de actividades en línea potencialmente fraudulentas, como la creación de cuentas falsas o el fraude en los pagos en línea. Con una estructura interna basada en ML y más de 20 años de experiencia en detección de fraude en AFD, identifica automáticamente la actividad potencialmente fraudulenta en milisegundos, sin necesidad de experiencia en ML.
Anteriormente, los clientes recibían puntuaciones de riesgo como parte de las predicciones de fraude, pero no obtenían ningún detalle que describiera cuál de las variables de entrada contribuía a una puntuación de riesgo de ML específica. Esto hacía difícil determinar cómo se calculaban las puntuaciones de riesgo, así como explicar los elementos que contribuían más significativamente a una puntuación de riesgo, con objeto de realizar investigaciones manuales, de cumplimiento o con otros propósitos. Si bien AFD proporciona explicaciones en el nivel del modelo para que los clientes puedan obtener información sobre qué entradas influyen en el rendimiento general del modelo, aun así los clientes no podían obtener explicaciones individuales en el nivel de la predicción.
Con las explicaciones de predicciones, ahora cada predicción de fraude incluye información sobre el impacto que ha tenido cada variable de entrada en una puntuación de predicción de fraude. Estos detalles ayudarán a los investigadores a determinar con mayor facilidad y precisión qué entradas han influido en que suba o baje la puntuación de predicción de fraude. Las explicaciones de predicciones se incluyen con todas predicciones, sin coste adicional.
Los clientes pueden ver las explicaciones de predicciones en la consola de AWS navegando hasta la consola del Fraud Detector y haciendo clic en una predicción en la pestaña Search Past Predictions (Buscar predicciones pasadas). Junto con cada puntuación de riesgo de predicción de fraude basada en ML, se proporciona una lista de las variables de entrada de eventos de la predicción clasificadas por su impacto en la puntuación de riesgo. Los clientes también obtienen indicadores visuales de la importancia de las variables en términos de magnitud (en una escala de 0 a 5, siendo 5 el mayor impacto en la puntuación total) y dirección (si hizo subir o bajar la puntuación). Por ejemplo, si la dirección IP de un evento determinado ha sido la variable que más ha aumentado la puntuación de riesgo predicha por el modelo, aparecerá entre las “variables que han aumentado el riesgo de fraude” y tendrá un valor de impacto alto. Las explicaciones de predicciones también están disponibles a través del AWS SDK y la CLI, mediante la API GetEventPredictionMetadata de AFD, lo que facilita que los clientes puedan comunicar estos detalles a analistas de fraude en su banco de trabajo de investigación preferido.
Las explicaciones de predicciones se generan automáticamente y solo están disponibles para modelos entrenados a partir del 30 de junio de 2021 en todas las regiones de AWS donde está disponible Fraud Detector: Este de EE. UU. (Norte de Virginia), Este de EE. UU. (Ohio), Oeste de EE. UU. (Oregón), Europa (Irlanda), Asia-Pacífico (Singapur) y Asia-Pacífico (Sídney). Para obtener más detalles, consulte nuestra página de documentación.