IA generativa: cómo llevar las pruebas de concepto a la fase de producción

Por: Mark Schwartz

Cuando nos enfrentamos a una tecnología que cambia las reglas del juego, como la IA generativa, experimentar es una excelente manera de aprender lo que puede hacer y cómo usarla. Y, de hecho, en AWS vemos que muchas empresas están haciendo precisamente eso, volviéndose más sofisticadas y capaces de formular preguntas más fundamentadas sobre el rumbo de la tecnología y lo que podría significar para ellas. Pero también vemos que muchas de ellas se encuentran atrapadas en una fase de prueba de concepto (POC) y nunca llegan del todo a la fase de producción, a pesar de que sus pruebas de concepto parecen tener éxito.

Puede que se deba a que perciben el riesgo. No es sorprendente; los medios de comunicación están repletos de historias sobre alucinaciones causadas por la IA, discursos tóxicos, prejuicios e imprecisiones. El despliegue de nuevas tecnologías siempre conlleva riesgos; los líderes deben gestionar estos riesgos a un nivel aceptable. E incluso la contratación y el despliegue de un ser humano conllevan algunos de estos riesgos, ya que también pueden demostrar parcialidad o proporcionar información inexacta. Como ocurre con todo lo que hace una empresa, la implementación de aplicaciones de IA generativa consiste en mitigar los riesgos hasta que los beneficios de las nuevas capacidades los superen. Hay formas de gestionar los riesgos de la IA y, sin duda, hay más en camino.

Algunos líderes también son lo suficientemente inteligentes como para preocuparse por los costos en el futuro cuando sus aplicaciones de IA generativa se utilicen a gran escala. Sin embargo, uno de los objetivos de un POC debería ser calcular aproximadamente los posibles costos. Y es probable que estos costos disminuyan con el tiempo a medida que los modelos básicos evolucionen, los proveedores compitan y a medida que se ofrezca a las empresas una selección de modelos con diferentes características de precio/rendimiento.

Pero me pregunto si no se trata realmente de una cuestión de riesgo. Quizás el verdadero problema sea que muchas empresas no se han comprometido realmente a implementar las aplicaciones POC en la producción. Sin obsesionarse con la terminología (ej. experimentación, prueba de concepto, piloto, etc.), es importante tener en cuenta que el objetivo de una prueba de concepto es reducir el riesgo y obtener información sobre la aplicación que la empresa pretende implementar. Las empresas suelen identificar un objetivo empresarial, planificar el uso de una tecnología para alcanzarlo, identificar los riesgos o desafíos que implica y, a continuación, diseñar una prueba de concepto para mitigar los riesgos y los desafíos antes de comprometerse a realizar una inversión total. Existe una definición clara del éxito: mitigue los riesgos que le preocupan, conozca lo que implicará la implementación u obtenga cualquier otra meta que pretenda lograr la prueba de concepto. La prueba de concepto es un paso hacia la implementación de la tecnología para alcanzar un objetivo empresarial que valga la pena. Es cierto que la implementación puede cancelarse si la prueba de concepto demuestra que es inalcanzable o demasiado arriesgada. Sin embargo, el proceso comienza con la intención de utilizar la tecnología, ya que se considera que vale la pena alcanzar el objetivo empresarial.

Compare eso con los numerosos experimentos generativos de IA actuales. Una empresa identifica 100 posibles casos de uso y prueba un modelo básico para ver cómo podría cumplir con cada uno de ellos. Este es un excelente enfoque inicial para aprender la tecnología e inspirar ideas sobre cómo usarla. Las empresas deberían experimentar. Pero no siempre es un buen camino hacia la producción.

En primer lugar, este método solo prueba el modelo básico, su estado actual y sus indicaciones e integraciones. No pone a prueba el modelo de negocio. En segundo lugar, no existe una definición clara del éxito; dado que la empresa no comenzó con la intención de realizar el despliegue ni identificó los riesgos específicos que debía mitigar para lograrlo, el resultado de la prueba de concepto no puede ser otro a «¡qué genial!» En tercer lugar, la prueba de concepto no mitiga sistemáticamente los riesgos que surgirán como motivo de preocupación cuando llegue el momento de la implementación. Y, en cuarto lugar, no se dispone de los recursos necesarios para llevarla a producción: más adelante habrá que elaborar un argumento de viabilidad para obtenerlos. En el mejor de los casos, el prototipo ha demostrado que una aplicación puede hacer algo relevante en un caso de uso, pero eso dista mucho de demostrar un caso de negocio.

Ahora que todos hemos tenido la oportunidad de jugar con la IA generativa y realizar experimentos para obtener más información, es hora de centrarnos en sacarle provecho. Al igual que con otras tecnologías que hemos implementado en el pasado, es cuestión de encontrar objetivos empresariales importantes que puedan alcanzarse con ella, esbozar un modelo de negocio, gestionar los riesgos, asegurar los recursos y pasar a la fase de producción. No se trata de experimentar con casos de uso; se trata de diseñar una solución para un problema empresarial importante y avanzar hacia su solución. Ese modelo mental conduce naturalmente a la producción.

En el camino, se dará cuenta de que las aplicaciones de IA generativa aptas para producción requieren seguridad, protección de la privacidad, conformidad, agilidad, gestión de costes, soporte operativo y resiliencia de nivel de producción. La mayoría de las aplicaciones de IA generativa deben integrarse con otras aplicaciones empresariales, conectarse a fuentes de datos empresariales y controlarse mediante barreras empresariales.

Una verdadera prueba de concepto (a diferencia de un experimento de aprendizaje) incluye una ruta de implementación con todas las funciones empresariales. Querrá complementar la prueba de concepto, probarla en situaciones del mundo real, aplicar su modelo de seguridad empresarial y hacer todas las demás cosas que hacemos y siempre hemos hecho en TI empresarial.

Esto se alinea con la visión de AWS sobre la IA generativa (y el aprendizaje automático clásico y las tecnologías del futuro). Lo que importa es cómo una tecnología puede ayudar a los clientes de AWS a cumplir sus objetivos empresariales, misión o sociales, no la tecnología en sí misma. Diseñamos y desarrollamos nuestras herramientas de IA partiendo de cero para cumplir con nuestros exigentes estándares de seguridad y confiabilidad, y para adaptarlas a los marcos empresariales existentes en materia de cumplimiento, barreras, operatividad y administración de datos. Están diseñadas para ser ágiles: por ejemplo, Amazon Bedrock ofrece acceso a muchos modelos básicos a través de una única API, lo que facilita el aprovechamiento de los nuevos modelos a medida que evolucionan. El Claude 3 de Anthropic, el modelo con más éxito en la actualidad según los puntos de referencia del sector, está disponible a través de esa API, al igual que otros modelos que ofrecen diferentes ventajas en cuanto a precio, velocidad y precisión. AWS siempre ha imaginado que la IA generativa ocupe su lugar en el campo tecnológico más amplio de las empresas.

Si se toma en serio el uso de la IA generativa para alcanzar un objetivo empresarial conocido e importante, considérela como una funcionalidad que está en vías de ser productiva y crear valor. Las pruebas de concepto son una forma importante de gestionar los riesgos y validar su estrategia empresarial, no la suya a favor de la tecnología en sí, sino de la funcionalidad empresarial que se crea con ella.

Nunca podrá reducir sus riesgos a cero porque implementar algo nuevo siempre conlleva riesgos (incluso, como he dicho antes, los empleados humanos). Sin embargo, puede trabajar para mitigar estos riesgos a un nivel aceptable y operar dentro de los límites de una IA responsable. AWS ha hecho todo lo posible para ayudarle a mitigar los riesgos: está diseñada para ser la infraestructura más segura y fiable del mundo. El marco de gestión de riesgos que utiliza para sus otros sistemas de TI se traslada a las nuevas aplicaciones generativas de IA que implementa. El camino hacia la producción está abierto.

Blog original: Generative AI: Getting Proofs-of-Concept to Production 

ETIQUETAS: IA, valor empresarial, aprendizaje automático

Mark Schwartz
Mark Schwartz es estratega empresarial en Amazon Web Services y autor de The Art of Business Value y A Seat at the Table: IT Leadership in the Age of Agility. Antes de unirse a AWS, fue CIO del Servicio de Ciudadanía e Inmigración de los Estados Unidos (parte del Departamento de Seguridad Nacional), CIO de Intrax y CEO de Auctiva. Tiene un máster en Administración de Empresas por Wharton, una licenciatura en Ciencias de la Computación por Yale y un máster en Filosofía por la Universidad de Yale.

Nelson Rojas
Nelson es Senior Customer Solutions Manager en AWS para clientes de Telecomunicaciones en Latin América. Cuenta con más de 25 años de experiencia en la industria de tecnología informática, entre sus temas de profundización están Analítica de Datos, Inteligencia Artificial y Ciberseguridad, así como su aplicación en la transformación digital empresarial.

Henrique Meira

Henrique es Senior Lider del equipo de Customer Solutions Manager en AWS enfocado en Migraciones a cloud.