Transformar la IA responsable de la teoría a la práctica

Fomentar el desarrollo seguro y responsable de la IA como una herramienta beneficiosa

Desarrollar la IA de forma responsable en AWS

El rápido crecimiento de la IA generativa trae consigo nuevas innovaciones prometedoras y, al mismo tiempo, plantea nuevos desafíos. En AWS, nos comprometemos a desarrollar la IA de manera responsable, mediante un enfoque centrado en las personas que prioriza la educación, la ciencia y nuestros clientes, para integrar la IA responsable en todo el ciclo de vida de la IA.

Imagen con formas coloridas

Dimensiones fundamentales de la IA responsable

Equidad

Considerar las repercusiones en los distintos grupos de las partes interesadas

Capacidad de explicación

Comprender y evaluar los resultados del sistema

Privacidad y seguridad

Obtener, utilizar y proteger los datos y los modelos de manera adecuada

Seguridad

Evitar resultados dañinos del sistema y el uso indebido

Capacidad de control

Disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA

Veracidad y solidez

Lograr resultados correctos del sistema, incluso con información inesperada o contradictoria

Gobernanza

Incorporar las prácticas recomendadas en la cadena de suministro de IA, tales como los proveedores y los implementadores

Transparencia

Permitir a las partes interesadas tomar decisiones informadas sobre su interacción en un sistema de IA

Dimensiones fundamentales de la IA responsable

Equidad

Considerar las repercusiones en los distintos grupos de las partes interesadas

Capacidad de explicación

Comprender y evaluar los resultados del sistema

Privacidad y seguridad

Obtener, utilizar y proteger los datos y los modelos de manera adecuada

Seguridad

Evitar resultados dañinos del sistema y el uso indebido

Capacidad de control

Disponer de mecanismos para supervisar y dirigir el comportamiento del sistema de IA

Veracidad y solidez

Lograr resultados correctos del sistema, incluso con información inesperada o contradictoria

Gobernanza

Incorporar las prácticas recomendadas en la cadena de suministro de IA, tales como los proveedores y los implementadores

Transparencia

Permitir a las partes interesadas tomar decisiones informadas sobre su interacción en un sistema de IA

Servicios y herramientas

AWS ofrece servicios y herramientas para ayudarlo a diseñar, crear y operar sistemas de IA de manera responsable.

Implementación de medidas de seguridad en la IA generativa

Las barreras de protección de Amazon Bedrock lo ayudan a implementar medidas de seguridad adaptadas a sus aplicaciones de IA generativa y alineadas con sus políticas de IA responsable. Las barreras de protección ofrecen medidas de seguridad adicionales personalizables, además de las protecciones nativas de los FM, y protecciones de seguridad que se encuentran entre las mejores de la industria. Las protecciones incluyen lo siguiente:

  • Bloqueo de hasta un 85 % más de contenido dañino
  • Filtrado de más del 75 % de las respuestas con alucinaciones en cargas de trabajo de resumen y RAG
  • Habilitación para que los clientes personalicen y apliquen protecciones de seguridad, privacidad y veracidad en una única solución
Gama de capacidades de streaming

Evaluaciones de modelos fundacionales (FM)

La evaluación de modelos en Amazon Bedrock lo ayuda a evaluar, comparar y seleccionar los mejores FM para su caso de uso específico en función de métricas personalizadas, como la precisión, la solidez y la toxicidad. También puede usar Amazon SageMaker Clarify y fmeval para la evaluación de modelos.

Formas de diferentes colores sobre un fondo azul

Detección del sesgo y explicación de las predicciones

Los sesgos son desequilibrios en los datos o disparidades en el rendimiento de un modelo en diferentes grupos. Amazon SageMaker Clarify lo ayuda a mitigar los sesgos gracias a la detección de posibles sesgos durante la preparación de los datos, después de entrenar el modelo y en el modelo desplegado mediante el análisis de atributos específicos.

Comprender el comportamiento de un modelo es importante para desarrollar modelos más precisos y tomar mejores decisiones. Amazon SageMaker Clarify proporciona una mejor visibilidad del comportamiento del modelo para que pueda ofrecer transparencia a las partes interesadas, informar a los humanos que toman decisiones y hacer un seguimiento de si un modelo tiene el rendimiento previsto.

Explore Amazon SageMaker Clarify

Diseño de ondas azules y verdes

Supervisión y revisión humana

La supervisión es importante para mantener modelos de machine learning (ML) de alta calidad y ayudar a garantizar predicciones precisas. El monitor de modelos de Amazon SageMaker detecta automáticamente y le avisa de las predicciones inexactas de los modelos desplegados. Además, con Amazon SageMaker Ground Truth, puede aplicar comentarios humanos a lo largo del ciclo de vida del ML para mejorar la precisión y la relevancia de los modelos.

Objetos de diferentes tamaños y formas en una cinta transportadora

Mejora de la gobernanza

La gobernanza de ML de Amazon SageMaker ofrece herramientas diseñadas específicamente para mejorar la gobernanza de sus proyectos de ML al brindarle un control y una visibilidad más estrictos de sus modelos de ML. Puede capturar y compartir fácilmente la información del modelo y mantenerse informado sobre su comportamiento, por ejemplo, el sesgo, todo en un solo lugar.

Patrón abstracto de puntos conectados

Tarjetas de servicio de IA de AWS

Las tarjetas de servicio de IA son un recurso para mejorar la transparencia. Le ofrecen un lugar único donde encontrar información sobre los casos de uso y las limitaciones previstos, las opciones de diseño de IA responsable y las prácticas recomendadas de optimización del rendimiento para nuestros servicios y modelos de IA.

Explore las tarjetas de servicio disponibles

Foto aérea de coches que cruzan un puente

Contribución y colaboración de la comunidad

En estrecha colaboración con organizaciones de múltiples partes interesadas, como los grupos de trabajo sobre IA de la OECD, la Asociación para la IA, el Instituto de IA Responsable y el Comité Asesor Nacional sobre IA, así como asociaciones estratégicas con universidades a escala mundial, nos comprometemos a trabajar en conjunto para desarrollar la tecnología de IA y ML de manera responsable y generar confianza.

Adoptamos un enfoque centrado en las personas para educar a la próxima generación de líderes de IA con programas como el programa de becas de IA y ML y We Power Tech para aumentar el acceso al aprendizaje práctico, las becas y la tutoría para las personas desatendidas o subrepresentadas en el sector tecnológico.

Nuestra inversión en una IA generativa segura, transparente y responsable incluye la colaboración con la comunidad mundial y los responsables políticos, incluidos los compromisos voluntarios de la Casa Blanca en materia de IA, la Cumbre de Seguridad de la IA en el Reino Unido y la conformidad con la norma ISO 42001, un nuevo estándar básico que promueve la IA responsable. Apoyamos el desarrollo de marcos normativos efectivos basados en el riesgo para la IA que protejan los derechos civiles y, al mismo tiempo, permitan la innovación continua.

La IA responsable es un área activa de investigación y desarrollo en Amazon. Tenemos asociaciones estratégicas con instituciones académicas, como el Instituto de Tecnología de California, y con académicos de Amazon, incluidos expertos destacados que aplican su investigación para ayudar a dar forma a flujos de trabajo de IA responsable en Amazon.

Innovamos junto con nuestros clientes, manteniéndonos a la vanguardia de las nuevas tendencias e investigaciones para ofrecer valor, con subvenciones de investigación continuas a través de los Amazon Research Awards y publicaciones científicas con Amazon Science. Obtenga más información sobre la ciencia para desarrollar IA generativa de manera responsable en esta publicación de blog de Amazon Science, que describe los principales desafíos y soluciones emergentes.