IA responsable: de los principios a la práctica
Acelere la implementación de IA de confianza con orientación de expertos y herramientas prácticas
Desarrollo de la IA de forma responsable
El rápido crecimiento de la IA y los agentes inteligentes trae consigo innovaciones prometedoras y nuevos desafíos. En AWS, hacemos que la IA responsable sea práctica y escalable, lo que le permite acelerar la innovación confiable en inteligencia artificial. Adoptamos un enfoque centrado en las personas que pone a la educación, la ciencia y nuestros clientes en primer lugar, para integrar la IA responsable en todo el ciclo de vida de la IA. Nuestras prácticas recomendadas, protecciones integradas y herramientas basadas en la ciencia lo ayudan a crear y operar la IA de manera responsable en todos sus casos de uso. Desarrolle con prácticas de IA responsable desde el primer día para avanzar más rápido con seguridad y ganarse la confianza de los clientes.
¿Qué es la IA responsable?
AWS define la IA responsable mediante un conjunto básico de dimensiones que evaluamos y actualizamos con el tiempo a medida que la tecnología de IA evoluciona.
Equidad
Consideración de las repercusiones en los distintos grupos de las partes interesadas
Capacidad de explicación
Comprender y evaluar los resultados del sistema
Privacidad y seguridad
Obtener, utilizar y proteger los datos y los modelos de manera adecuada
Seguridad
Evitar resultados dañinos del sistema y el uso indebido
Capacidad de control
Disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA
Veracidad y solidez
Lograr resultados correctos del sistema, incluso con información inesperada o contradictoria
Gobernanza
Incorporar las prácticas recomendadas en la cadena de suministro de IA, tales como los proveedores y los implementadores
Transparencia
Permitir a las partes interesadas tomar decisiones informadas sobre su interacción en un sistema de IA
Prácticas recomendadas de IA responsable
Estas dimensiones fundamentales de la IA responsable representan propiedades técnicas inherentes a todos los sistemas de IA: su tarea consiste en tomar decisiones de diseño deliberadas para su caso de uso específico. La nueva perspectiva de la IA responsable con AWS Well-Architected proporciona prácticas recomendadas y orientación práctica para ayudarlo a abordar estas consideraciones en el diseño, el desarrollo y la operación. Aplique esta guía para tomar decisiones informadas que equilibren sus requisitos empresariales y técnicos y ayuden a acelerar el despliegue de sistemas de IA de confianza.
Servicios y herramientas
AWS ofrece servicios y herramientas para ayudarlo a diseñar, crear y operar sistemas de IA de manera responsable.
Cree con medidas de seguridad configurables
Barreras de protección de Amazon Bedrock le ayuda a implementar medidas de seguridad personalizadas según los requisitos de su aplicación y las políticas de IA responsable. Con las protecciones de seguridad líderes del sector que bloquean hasta el 88 % del contenido dañino y ofrecen explicaciones auditables y verificables matemáticamente para las decisiones de validación con una precisión del 99 %, Barreras de protección de Bedrock proporciona medidas de seguridad configurables para ayudar a detectar y filtrar el contenido de texto e imagen dañino, ocultar información confidencial y detectar las alucinaciones del modelo. Utilice Barreras de protección de Bedrock con cualquier modelo fundacional (en Amazon Bedrock o con alojamiento propio) para obtener controles de seguridad y privacidad uniformes en todas sus aplicaciones.
Evaluaciones de modelos fundacionales (FM)
La evaluación de modelos en Amazon Bedrock lo ayuda a evaluar, comparar y seleccionar los mejores FM para su caso de uso específico en función de métricas personalizadas, como la precisión, la solidez y la toxicidad. También puede usar Amazon SageMaker Clarify y fmeval para la evaluación de modelos.
Detección del sesgo y explicación de las predicciones
Los sesgos son desequilibrios en los datos o disparidades en el rendimiento de un modelo en diferentes grupos. Amazon SageMaker Clarify lo ayuda a mitigar los sesgos gracias a la detección de posibles sesgos durante la preparación de los datos, después de entrenar el modelo y en el modelo implementado mediante el análisis de atributos específicos.
Comprender el comportamiento de un modelo es importante para desarrollar modelos más precisos y tomar mejores decisiones. Amazon SageMaker Clarify proporciona una mejor visibilidad del comportamiento del modelo para que pueda ofrecer transparencia a las partes interesadas, informar a los humanos que toman decisiones y hacer un seguimiento del rendimiento de un modelo.
Supervisión y revisión humana
La supervisión es importante para mantener modelos de machine learning (ML) de alta calidad y ayudar a garantizar predicciones precisas. El Monitor de modelos de Amazon SageMaker detecta de manera automática y le avisa de las predicciones inexactas de los modelos implementados. Además, con Amazon SageMaker Ground Truth, puede aplicar comentarios humanos a lo largo del ciclo de vida del ML para mejorar la precisión y la relevancia de los modelos.
Mejora de la gobernanza
La gobernanza de ML de Amazon SageMaker ofrece herramientas diseñadas específicamente para mejorar la gobernanza de sus proyectos de ML al brindarle un control y una visibilidad más estrictos de sus modelos de ML. Puede capturar y compartir con facilidad la información del modelo y mantenerse informado sobre su comportamiento, por ejemplo, el sesgo, todo en un solo lugar.
Fichas de servicio de IA de AWS
Las fichas de servicio de IA son un recurso para mejorar la transparencia. Le ofrecen un lugar único donde encontrar información sobre los casos de uso y las limitaciones previstos, las opciones de diseño de IA responsable y las prácticas recomendadas de optimización del rendimiento para nuestros servicios y modelos de IA.
Novedades de la IA responsable
Contribución y colaboración de la comunidad
Con un profundo compromiso con organizaciones de múltiples partes interesadas, como los grupos de trabajo sobre IA de la OCDE, la Asociación para la IA y el Instituto de IA Responsable, así como asociaciones estratégicas con universidades a escala mundial, nos comprometemos a trabajar junto a otros para desarrollar la tecnología de IA y aprendizaje automático de manera responsable y generar confianza.
Adoptamos un enfoque centrado en las personas para educar a la próxima generación de líderes de IA con programas como el programa de becas de IA y ML y We Power Tech para aumentar el acceso al aprendizaje práctico, las becas y la tutoría por parte de personas desatendidas o subrepresentadas en el sector tecnológico.
Nuestra inversión en una IA generativa segura, transparente y responsable incluye la colaboración con la comunidad mundial y los responsables políticos, incluidos el Código de Conducta del Proceso de G7 AI Hiroshima, la Cumbre de Seguridad de la IA en el Reino Unido y la conformidad con la norma ISO 42001, un nuevo estándar básico que promueve la IA responsable. Apoyamos el desarrollo de marcos normativos efectivos basados en el riesgo para la IA que protejan los derechos civiles y, al mismo tiempo, permitan la innovación continua.
La IA responsable es un área activa de investigación y desarrollo en Amazon. Tenemos asociaciones estratégicas con instituciones académicas, como el Instituto de Tecnología de California, y con académicos de Amazon, incluidos expertos destacados que aplican su investigación para ayudar a dar forma a flujos de trabajo de IA responsable en Amazon.
Innovamos junto con nuestros clientes, siempre a la vanguardia de las nuevas tendencias e investigaciones para ofrecer valor, con subvenciones de investigación continuas a través de los Amazon Research Awards y publicaciones científicas con Amazon Science. Obtenga más información sobre la ciencia para desarrollar IA generativa de manera responsable en esta publicación de blog de Amazon Science, que describe los principales desafíos y soluciones emergentes.
