Desarrollar la IA de forma responsable en AWS
El rápido crecimiento de la IA generativa trae consigo nuevas innovaciones prometedoras y, al mismo tiempo, plantea nuevos desafíos. En AWS, nos comprometemos a desarrollar la IA de manera responsable, mediante un enfoque centrado en las personas que prioriza la educación, la ciencia y nuestros clientes, para integrar la IA responsable en todo el ciclo de vida de la IA.
Dimensiones fundamentales de la IA responsable
Equidad
Considerar las repercusiones en los distintos grupos de las partes interesadas
Capacidad de explicación
Comprender y evaluar los resultados del sistema
Privacidad y seguridad
Obtener, utilizar y proteger los datos y los modelos de manera adecuada
Seguridad
Evitar resultados dañinos del sistema y el uso indebido
Capacidad de control
Disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA
Veracidad y solidez
Lograr resultados correctos del sistema, incluso con información inesperada o contradictoria
Gobernanza
Incorporar las prácticas recomendadas en la cadena de suministro de IA, tales como los proveedores y los implementadores
Transparencia
Permitir a las partes interesadas tomar decisiones informadas sobre su interacción en un sistema de IA
Dimensiones fundamentales de la IA responsable
Equidad
Considerar las repercusiones en los distintos grupos de las partes interesadas
Capacidad de explicación
Comprender y evaluar los resultados del sistema
Privacidad y seguridad
Obtener, utilizar y proteger los datos y los modelos de manera adecuada
Seguridad
Evitar resultados dañinos del sistema y el uso indebido
Capacidad de control
Disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA
Veracidad y solidez
Lograr resultados correctos del sistema, incluso con información inesperada o contradictoria
Gobernanza
Incorporar las prácticas recomendadas en la cadena de suministro de IA, tales como los proveedores y los implementadores
Transparencia
Permitir a las partes interesadas tomar decisiones informadas sobre su interacción en un sistema de IA
Servicios y herramientas
AWS ofrece servicios y herramientas para ayudarlo a diseñar, crear y operar sistemas de IA de manera responsable.
Implementación de medidas de seguridad en la IA generativa
Las barreras de protección de Amazon Bedrock lo ayudan a implementar medidas de seguridad adaptadas a sus aplicaciones de IA generativa y alineadas con sus políticas de IA responsable. Las barreras de protección ofrecen medidas de seguridad adicionales personalizables, además de las protecciones nativas de los FM, y protecciones de seguridad que se encuentran entre las mejores de la industria. Las protecciones incluyen lo siguiente:
- Bloqueo de hasta un 85 % más de contenido dañino
- Filtrado de más del 75 % de las respuestas con alucinaciones en cargas de trabajo de resumen y RAG
- Habilitación para que los clientes personalicen y apliquen protecciones de seguridad, privacidad y veracidad en una única solución
Evaluaciones de modelos fundacionales (FM)
La evaluación de modelos en Amazon Bedrock lo ayuda a evaluar, comparar y seleccionar los mejores FM para su caso de uso específico en función de métricas personalizadas, como la precisión, la solidez y la toxicidad. También puede usar Amazon SageMaker Clarify y fmeval para la evaluación de modelos.
Detección del sesgo y explicación de las predicciones
Los sesgos son desequilibrios en los datos o disparidades en el rendimiento de un modelo en diferentes grupos. Amazon SageMaker Clarify lo ayuda a mitigar los sesgos gracias a la detección de posibles sesgos durante la preparación de los datos, después de entrenar el modelo y en el modelo desplegado mediante el análisis de atributos específicos.
Comprender el comportamiento de un modelo es importante para desarrollar modelos más precisos y tomar mejores decisiones. Amazon SageMaker Clarify proporciona una mejor visibilidad del comportamiento del modelo para que pueda ofrecer transparencia a las partes interesadas, informar a los humanos que toman decisiones y hacer un seguimiento de si un modelo tiene el rendimiento previsto.
Supervisión y revisión humana
La supervisión es importante para mantener modelos de machine learning (ML) de alta calidad y ayudar a garantizar predicciones precisas. El monitor de modelos de Amazon SageMaker detecta automáticamente y le avisa de las predicciones inexactas de los modelos desplegados. Además, con Amazon SageMaker Ground Truth, puede aplicar comentarios humanos a lo largo del ciclo de vida del ML para mejorar la precisión y la relevancia de los modelos.
Mejora de la gobernanza
La gobernanza de ML de Amazon SageMaker ofrece herramientas diseñadas específicamente para mejorar la gobernanza de sus proyectos de ML al brindarle un control y una visibilidad más estrictos de sus modelos de ML. Puede capturar y compartir fácilmente la información del modelo y mantenerse informado sobre su comportamiento, por ejemplo, el sesgo, todo en un solo lugar.
Tarjetas de servicio de IA de AWS
Las tarjetas de servicio de IA son un recurso para mejorar la transparencia. Le ofrecen un lugar único donde encontrar información sobre los casos de uso y las limitaciones previstos, las opciones de diseño de IA responsable y las prácticas recomendadas de optimización del rendimiento para nuestros servicios y modelos de IA.
