Driving Invention with the Latest in AWS Generative AI

Jonathan Allen:
Bueno, gracias por estar aquí, Swami. Ha sido una mañana ajetreada. Felicitaciones por la presentación principal. Es evidente que hay mucha pasión y orgullo por lo que su equipo ha creado. He contado más de 20 anuncios esta mañana.

Dr. Swami Sivasubramanian:
Así es.

Jonathan Allen:
Era como revivirlo una y otra vez. Otro más. Otro más. Realmente impresionante. Al reflexionar sobre esa avalancha de anuncios, vemos enormes cantidades de innovación para los clientes, ¿cuáles son las dos o tres cosas que realmente le vienen a la mente?

Dr. Swami Sivasubramanian:
Claro. En primer lugar, gracias por invitarme. Es un placer estar aquí y reunirme con el grupo. Diría que me está pidiendo que elija a mis hijos favoritos. En el mundo real, tengo dos hijos, además de un cachorro, así que supongo que son tres.

Pero yo diría que la clave, en muchos sentidos, es que, si se observa el enfoque de AWS con respecto a la IA, es mucho más que solamente un modelo o un chatbot. Creemos que, en el futuro, la innovación se producirá en todos los niveles de la pila, y también en todas las empresas. Porque estableceré este contexto y responderé a su pregunta, pero es importante porque todo el mundo piensa que, por supuesto, van a ver que todos los desarrolladores de aplicaciones de todas nuestras organizaciones van a innovar con modelos y todas las herramientas con capacidades que Bedrock proporciona. Por supuesto, veremos cómo la asistencia de IA generativa ayuda a los desarrolladores y, además, a los usuarios empresariales y analistas de datos.

Pero lo que la gente siempre olvida es que cualquier graduado o estudiante universitario de Informática que está cursando sus estudios en este momento, sabe cómo crear un modelo de lenguaje de gran tamaño desde cero. Esto ya está ocurriendo. Eso significa que lo que van a ver con cada vez más frecuencia en su fuerza laboral son personas capaces de llevar a cabo una cirugía activa de estos modelos en código abierto. Por eso es importante seguir innovando en todos los niveles de la pila. Ese es el camino.

Ahora sí voy a profundizar en algunos aspectos importantes. Uno es, por supuesto, que llevo unos 18 años en AWS. Así que, en muchos sentidos, ¿dónde estamos con GenaI me recuerda mucho a los primeros días de AWS, cuando éramos literalmente pocos, probablemente del tamaño de esta habitación y demás. Y no solo por la cantidad de personas que trabajan en AWS, sino por el ritmo de la innovación y por lo revolucionario que fue aquello.

Y de muchas maneras, Bedrock El ritmo de la innovación me recuerda a los tiempos en que creamos DynamoDB o S3 o varios otros. Y estamos en un momento sin precedentes en el que todavía es turbio. En 2023 todo giró en torno a los prototipos. Todos lo hicimos. De hecho, nuestros clientes estaban experimentando para saber qué pruebas de concepto funcionaban, qué es lo que ciertamente tenía sentido y qué no.

En 2024, están viendo lo que se necesita para llegar realmente a la producción. Luego se dan cuenta de que es mucho trabajo encontrar qué modelo funciona para cada caso de uso. Y después se dan cuenta de que no necesitan un modelo. Se necesitan muchos modelos. Y además hay que hacerlo de manera rentable. Se necesitan barreras de protección y también que estos agentes trabajen, entre otras cosas.

Por eso, verá que hemos innovado en cada capa de este aspecto de Bedrock. Desde la variedad de modelos, donde fuimos los primeros de la industria en decir “si lanzamos esto, no lo vamos a lanzar con un solo modelo. Vamos a hacerlo con una amplia variedad de modelos”. En ese momento, la gente pensaba que era una cuestión de debilidad.

En realidad, RDS no se lanzó con una sola base de datos. De hecho, lo lanzamos con varias bases de datos. Porque una cosa que siempre es común en el sector es que los desarrolladores quieren libertad para innovar. Quieren tener opciones en las bases de datos, quieren poder elegir modelos, quieren elegir las herramientas.

AWS está donde está porque realmente siempre nos hemos esforzado por ofrecer a los desarrolladores la libertad de elegir las herramientas y las opciones. Redoblamos la apuesta en Bedrock. Pero también fuimos más allá de los modelos y, de hecho, brindamos todas esas herramientas, y ahí se vio toda la innovación.

Pero algunos de mis avances favoritos están, por supuesto, en el ámbito de la automatización de datos. De hecho, muchos de nosotros tenemos una gran cantidad de datos almacenados que son completamente inaccesibles. Ahora contamos con un ETL con tecnología de IA generativa para todos los datos no estructurados, sin necesidad de escribir código. La verdad es que creo que eso va a ser algo importante.

Aunque, por supuesto, el otro gran avance creo que es Q Business. Yo soy un ingeniero que en algún momento se convirtió en gerente de equipos y gerente de empresas. Así que hago muchas preguntas de negocios. Trabajo en temas de precios y en muchas otras cosas. No se me dan bien las hojas de cálculo. Siempre me impresiona mi equipo de finanzas, que pueden hacer todas estas tablas de papel mágicas y cosas así.

Yo prefiero escribir código en Python o Polcode para hacer eso mismo en vez de trabajar en hojas de cálculo. Así soy yo. Pero, ¿qué puedes hacer con Q los escenarios de hoy son asombrosos. Quiero decir, antes se tardaba tres semanas en poder responder a preguntas empresariales complejas y analizar escenarios, que es lo que normalmente se hace en hojas de cálculo; poder hacerlo aquí es como un punto de inflexión.

Lo mismo ocurre con los desarrolladores. Toda esta guerra de asistentes de codificación que vemos, ya sea cualquiera de los Copilot u otros, se centra en el 20 % del problema. Porque los desarrolladores no dedican el 100 % de su tiempo a escribir código nuevo. Eso es prácticamente un mito. Ojalá fuera así, pero no lo es.

Terminan dedicando tiempo a escribir documentación, pruebas unitarias, revisiones de código y, luego, a la ingeniería del rendimiento y a la investigación de operaciones. Entonces, ¿cómo se logra que dediquen el 100 %? Hay que resolver el otro 80 %. Eso es lo que hicimos con Q, con todos esos lanzamientos. De hecho, esos son mis favoritos y ya vemos el impacto dentro de Amazon.

Cuando hicimos que Q estuviera a cargo de todas las actualizaciones de software para Java, le devolvimos a la empresa el equivalente a 4500 años de desarrollo, solo en los primeros siete meses. Piense en la mejora de la productividad que implica eso. Sé que quiere continuar, pero voy a detenerme aquí.

Jonathan Allen:
Sí, esos cuatro mil quinientos, cuando se piensa en ese número, la mente tiene que procesarlo para decir: “¿Es real?”. Y luego miras los datos, pasas por varios ciclos, ves a Andy hablar de ello y piensas: “Es un número real, es un número enorme y eso tiene mucho valor”.

Jonathan Allen:
Ahora, tú y yo trabajamos con muchos clientes que lo han hecho de forma iterativa inteligencia artificial generativa para resolver problemas reales por sí mismos. Creo que Andy habló con mucha elocuencia ayer cuando abordó la iteración por la que hay que pasar. Pero creo que usted y yo hemos visto a clientes llegar casi al 99 %, y luego tener que hacer una pausa por las alucinaciones.

Dr. Swami Sivasubramanian:
Sí.

Jonathan Allen:
Así que, obviamente, somos extremadamente… hacemos mucha ciencia en Amazon. Y me interesa mucho escucharle hablar sobre algunos de los avances que hemos logrado en ese sentido.

Dr. Swami Sivasubramanian:
Creo que esta es un área que es fascinante si piensa en lo que son capaces de hacer los LLM. Pero lo que todos y muchos de nosotros olvidamos de vez en cuando es que, al final del día, se trata de modelos altamente probabilísticos. Y terminan generando cosas que son incorrectas o inexactas aunque sea el 1 % de las veces. De hecho, esto puede ser un verdadero obstáculo para la producción, especialmente en sectores regulados.

Así que cuando analizamos este problema, dijimos: “¿Cuál es la mejor manera de poder basarnos en esto con mayor certeza?”. Y por ello mi equipo está invirtiendo en una ciencia llamada razonamiento automatizado. Si los ingenieros realmente están aprovechando nuestras herramientas de creación de políticas de IAM, ya cuentan con capacidades de razonamiento automatizado para comprobar si esa política se aplica de la manera en que creemos que se aplica o que usted cree que se aplica.

Es como un constructo matemáticamente verificable mediante lógica formal. Y pensamos: ¿por qué no combinar la demostración matemática que proporciona el razonamiento automatizado con la creatividad y la expresión de la IA generativa? Producir algo que sea extremadamente creativo pero que también se base en una lógica formal.

Esta es en realidad una de las innovaciones revolucionarias que creo que puede cambiar el panorama en cierto modo. Porque este va a ser uno de los grandes obstáculos del futuro para incorporar las innovaciones de la IA generativa en los sectores regulados. Hemos estado trabajando con algunos clientes en estos sectores. Y los primeros resultados son muy muy prometedores. Ya que se entrega a estos modelos un documento en el que se indica: “Estas son las reglas, los principios fundamentales que nunca se pueden infringir”. Y luego esto se usa como barrera de protección. Y compone un modelo semántico que en realidad actúa como la barrera de protección que el LLM no debe infringir.

Así que cuando el LLM genera una respuesta inexacta, retrocede y le dice al LLM: “Tienes que hacerlo mejor, estás infringiendo esto”. Y entonces, de repente, todo mejora. Si lo piensa bien, este es el tipo de técnicas que utilizamos incluso en nuestras actualizaciones de Java. Lo cierto es que la lógica formal no es algo nuevo. Es lo que de muchas manera impulsa a nuestras computadoras en la actualidad, con cosas como compiladores, etc.

Y eso es lo que estamos haciendo, y estamos muy entusiasmados con ello. Por supuesto, se está produciendo mucha más innovación basada en el machine learning. Y puedo profundizar más en eso y en cómo creamos Nova y varias otras cosas. Pero no creo que el sector sea aún plenamente consciente de ello.

Casi lo veo como el yin y el yang, por así decirlo, porque la lógica formal tiene que ver con la certeza, mientras que la IA generativa se basa en dar rienda suelta a la creatividad y aceptar la imperfección. Y si de verdad se unen estos dos conceptos, creo que los resultados podrían ser asombrosos.

Jonathan Allen:
Creo que, sin duda, en los sectores regulados, la verificación matemática está bastante bien establecida. Pero me parece que el elemento del razonamiento automatizado que se incorpora, después de haber escuchado a los clientes, es algo que van a adoptar con rapidez. Estoy muy emocionado por ello.

Cuando era un cliente en esta sala, antes de unirme a Amazon, quería escuchar las lecciones aprendidas. Lleva mucho tiempo en Amazon. Ha trabajado en muchas iniciativas de machine learning e inteligencia artificial generativa en Amazon.

En este grupo, ¿cuáles son las dos o tres lecciones más importantes que ha aprendido al ayudar a que esas iniciativas se hicieran realidad? ¿Qué podría compartir con este público si no quisiera que cometieran el mismo error de forma inconsciente o sin ser advertidos?

Dr. Swami Sivasubramanian:
Bueno, qué difícil. Estaba pensando en las dos o tres lecciones más importantes y diría que, cuando la tecnología está a la vanguardia, parte del error, como propietarios de organizaciones y propietarios de productos, es que somos los primeros en no invertir suficiente tiempo, desde los ingenieros hasta llegar incluso a los directores de experiencia, para involucrarnos de manera práctica y experimentar con la tecnología.

Para mí, de hecho, creo que a menos que realmente conozcas, aceptes y experimentes con esa tecnología, no te darás cuenta del poder y el potencial de lo que puede hacer. Y en mi opinión, eso a menudo se pasa por alto. Por eso, cada semana trato de imponerme algunas reglas.

Al menos me reúno personalmente con tres o cuatro clientes, y leo, como mínimo, tres o cuatro artículos de investigación. Esas son mis dos reglas. Y se lo digo a mis equipos. Y luego, durante el fin de semana, escribo código por diversión o con mi hija para un proyecto de robótica, uno de estos dos. Para mantenerme conectado de verdad con la realidad.

Jonathan Allen:
Sí, son buenas maneras de obligarse a hacerlo, ¿verdad?

Dr. Swami Sivasubramanian:
Sí, así es. De lo contrario, se termina operando a un nivel en el que no se está conectado con la realidad.

La segunda cosa que voy a decir es que tendríamos que estar realmente atentos cuando el ritmo de la innovación es tan rápido que los mecanismos que normalmente organizamos para administrarlos a escala no funcionan realmente. Cuando el ritmo de la innovación en la tecnología cambia de forma repentina y es diez veces más rápido que hace cinco años.

Todos nuestros mecanismos actuales de administración de programas y proyectos de ingeniería, todas esas cosas realmente ya no son lo suficientemente rápidas respecto al ritmo al que queremos innovar. Por lo tanto, se requiere un estilo de administración diferente en el que no se dedique tanto tiempo a los detalles. A veces, no es necesario involucrar a todos los niveles de gerentes antes de llegar a la persona que realmente diseña el producto y escribe el código, entre otras cosas. Así que también cambié mi estilo drásticamente en los últimos tres años por esa razón.

Y luego la tercera lección, que ni siquiera hace falta decirlo, es el ADN de Amazon. Trabajar con el cliente y el objetivo empresarial que deseas lograr como punto de partida. Al final, por mucho que me apasionen la IA generativa, la IA y los datos, son un medio para resolver algo para el cliente y su empresa.

Por eso, incluso en los primeros días del aprendizaje profundo, pero también en la primera etapa de la IA generativa, todos creamos muchas pruebas de concepto que terminaron en el cementerio, donde murieron lenta y dolorosamente. Porque realmente no veíamos cuál iba a tener un impacto real en la empresa en términos de retorno de la inversión.

Y eso es más importante que nunca, especialmente en el mundo de la IA generativa, donde el costo es muy muy alto. Ya ha visto mis lanzamientos, muchos de ellos giran en torno a cómo se administran las cosas a escala. Si se observa la gobernanza de tareas de SageMaker HyperPod, esa es una gran lección de Amazon. Al igual que el año pasado, tuvimos muchos proyectos de IA generativa.

Se pueden dividir en inferencia y entrenamiento y ajuste y experimentación. Creamos internamente un sistema para mover automáticamente los recursos entre esas tareas. Porque la inferencia, lo genial de la inferencia es… quizá no debería decir “lo genial”. Lo difícil de la inferencia es, digamos, algo como que nuestro agente de compras requiere 1000 entrenamientos en dos instancias en su punto máximo. Por la noche, no mucha gente compra, pero no se pueden dejar esas instancias inactivas. Aunque lo ideal sería dedicarlo a cargas de trabajo que no sean sensibles al tiempo, como el entrenamiento o los experimentos de ajuste.

Esto requería una administración activa de los recursos. Así que terminamos creando el sistema. Y luego vimos, cuando hablamos con muchos de nuestros clientes, especialmente con los CEO, que dijeron: “Estoy invirtiendo mucho dinero en esto, pero mi nivel de uso no es tan alto. ¿Por qué?”. Entonces les explicamos: “Esto es lo que hacemos internamente”. Dijeron: “¿Por qué no puedo tener eso en SageMaker?”.

Esa fue una gran lección. Para hacer IA generativa a escala, hay que ser excepcionalmente bueno a la hora de administrar los costos. Por eso se prestó tanta atención a la superpotencia de la gobernanza de tareas, pero también a la escalabilidad en la inferencia con la destilación de modelos. Y también cosas como el enrutamiento inteligente de peticiones. Estas son las técnicas que utilizamos internamente porque nuestros proyectos de IA generativa, especialmente, están alcanzando una escala en la que cada mejora porcentual en la utilización y el costo es de veras importante.

Jonathan Allen:
Ayer me reuní con un cliente que ya había identificado, y he visto esto varias veces, cien posibles proyectos de IA generativa que quería hacer. Los clientes se centran en unos pocos y luego tienen problemas para seguir adelante con esos uno o dos proyectos. Como sabemos, hay bloqueadores.

Jonathan Allen:
Al igual que en los primeros días, e incluso ahora, de la modernización y migración a la nube, lo que descubrí como cliente fue que involucrarme en las reuniones diarias y eliminar los obstáculos era muy importante. Pero respecto a esas iniciativas de IA generativa, cuando se han identificado uno o dos aspectos, ¿cuáles son algunos de ellos? ¿Qué recomienda a los clientes que hacen esos primeros experimentos para llevarlos realmente a la fase de producción?

Dr. Swami Sivasubramanian:
Creo que el camino desde el prototipo hasta la producción consiste en prestar mucha atención a ver qué funciona en el entorno real y qué no. Eso sería lo primero.

Porque lo interesante es que estos LLM, cuando se ponen en marcha, especialmente con estos proyectos que están frente a los clientes, suelen tener buena aceptación. A veces podemos excedernos con los límites. Decir: “No quiero que tome ninguna pregunta sobre cualquier tema, excepto esta”. Y, de repente, su chatbot solo puede responder a cinco preguntas para las que ha escrito un motor de reglas.

Así que hay que lograr el equilibrio correcto. De hecho, hay que seguir experimentando. Por eso el ritmo de iteración es muy importante, especialmente a medida que se escala la producción. Si observa las mejoras de algunas de estas herramientas, la capacidad de seguir iterando y ajustando aspectos como barreras de protección y otros elementos, se trata de algo importante.

Además, el costo de la inferencia tiene mucha importancia. Esto es algo con lo que hemos experimentado mucho y que también mencioné. En tercer lugar, a veces también pensamos que la IA generativa tiene que ver con una compilación líder, como una aplicación para automatizar un centro de contacto entre otras cosas.

A veces olvidamos que estos asistentes de IA generativa permiten que los usuarios empresariales y los que no son desarrolladores accedan a esos datos y análisis más rápido; tomar decisiones basadas en los datos es algo que cambia las reglas del juego.

En muchas de las empresas de Amazon, ahora tenemos personas que no tienen conocimientos técnicos; pueden ser compradores por categorías o personas que se dedican a los anuncios. Sin embargo, son capaces de utilizar tecnología como Q y acceder a un lago de datos y realizar análisis. Y creo que eso es, en cierto modo, un gran cambio en las reglas del juego, porque la velocidad de la toma de decisiones se va a acelerar a lo grande.

Jonathan Allen:
Esta mañana, dos o tres clientes se unieron a usted en el escenario y contaron historias increíbles. Cuando he trabajado con clientes, creo que la combinación de algunos de estos componentes de creación ha funcionado asombrosamente bien.

Así que Amazon Q para Connect, cuando puedes marcar una diferencia sustancial. Ya que hace que la parte realmente difícil de ser un agente de un centro de contacto sea un poco más fácil. Ayuda a ello. Y creo que los anuncios sobre generación aumentada por recuperación de esta mañana son muy interesantes para acelerarlo aún más.

Jonathan Allen:
Sin embargo, ¿cuáles son los dos o tres clientes que se le vienen a la mente y piensa: “Vaya, eso no me lo esperaba”?

Dr. Swami Sivasubramanian:
Yo diría que, según el patrón general de los clientes, los pongo en dos o tres categorías. En la primera categoría, aquellos que utilizan IA generativa para crear nuevos productos o experiencias completamente nuevos para los clientes. Es como el Eco de Autodesk, donde prácticamente reinventan el diseño 3D con IA generativa. Y eso es un punto de inflexión, un cambio total para ese sector. Y eso es algo enorme, es como aumentar los ingresos en cierto modo.

El segundo grupo lo pondría en la categoría de uso de la IA generativa para asegurar que se hacen las cosas más rápido, más barato y mejor para los clientes. Puede verse como la automatización del flujo de trabajo de solicitudes hipotecarias. Como lo que dijo Rocket. ¿O cómo puedo atender a mis clientes más rápido? Y así sucesivamente. Esos casos también son realmente importantes. Es como mejorar el beneficio neto.

Y luego, la tercera categoría sería: ya estamos innovando. También gestionamos un enorme equipo de desarrollo de software. Podría tener otros cinco clientes en el escenario, pero entonces sería una presentación principal de tres horas. Pero algo que resuena bastante con muchos de nuestros clientes, es la capacidad de hacer que los ingenieros de software sean cinco veces más productivos.

Creo que estamos a punto de lograrlo, especialmente con todo lo que estamos haciendo con Q, donde no nos centramos solo en un aspecto, sino en todos los aspectos. Eso es algo que realmente está resonando entre nuestros clientes, sobre todo con lo que estamos haciendo. Como que Q ayude a la investigación de operaciones, o que ayude con las pruebas unitarias y la documentación. Todos los aspectos que van a cambiar las reglas del juego.

Y sin olvidar que Q es, literalmente, el mejor del mundo en este momento en cuanto a generación de código de software. Puedes ir a comprobarlo a Swebench.com y verás que es el mejor asistente. Pero para mí eso es solo una parte del rompecabezas de la productividad.

Jonathan Allen:
Sí. Una de las cosas que mencionó esta mañana, en la que quiero hacer un poco de hincapié. Se trata, y ya lo ha mencionado, de los orígenes de datos dispares en una empresa, ya sea que estén en almacenes de datos operativos, en motores de procesamiento en paralelo o en lagos de datos. ¿Cómo prepara los datos para la inteligencia artificial generativa?

Dr. Swami Sivasubramanian:
Creo que este es uno de los desafíos más interesantes, ya que trabajaba con muchos clientes y de manera interna y externa. Cuando la gente se entusiasmó con la IA generativa, una de las cosas reveladoras del año pasado y principios de este año fue que casi toda la IA generativa y la RAG solo funcionan con datos de texto. Apenas eran utilizables para sus virus y lagos de datos. Tampoco funcionaban con la mayoría de contenido multimodal.

Esto significa que la mayor parte de las aplicaciones generativas que los clientes realmente querían crear no eran posibles sin que ellos creasen su propio motor SQL personalizado, como convertir el lenguaje natural a SQL, o sin crear un ETL de IA generativa. Estaban haciendo muchas otras cosas en lugar de crear lo que realmente querían. Esto es lo que nos llevó hoy a decir: “¿Sabes qué? Vamos a resolver todos los problemas de los datos, no solo el problema de la RAG”.

Por eso, lanzamos justo la capacidad de crear una recuperación de datos estructurados para que se pueda crear realmente lo que hacen Q y QuickSight. Si quieres crear una experiencia de este tipo y deseas crear tú mismo un chatbot de atención al cliente para poder recuperar los datos de, por ejemplo, las bases de datos relacionales y responder a la consulta de un cliente sobre el estado del último pedido, ahora puedes hacerlo.

Además, puedes llevar todo el contenido multimodal en PDF a todo lo demás, imágenes y videos, y automatizar el proceso de ETL como lo harías con los datos estructurados tradicionales sin ningún tipo de código, mediante la automatización de datos de Bedrock. Estas cosas van a cambiar realmente las reglas del juego.

Pero la parte más importante es que esto son solo herramientas. Aún se necesita una estrategia de datos en cuanto a gobernanza y otros aspectos. Aquí es donde queremos ayudar con el catálogo de SageMaker, donde se combinará toda la catalogación, la organización, la gobernanza y el descubrimiento, todo integrado además.

Jonathan Allen:
Estupendo. Ahora como seguridad, lo que siempre es una prioridad para todos. Y el costo.

Dr. Swami Sivasubramanian:
Sí.

Jonathan Allen:
Y el costo. Queremos tenerlo todo sin renunciar a nada. Además, queremos marcar la diferencia. Queremos incorporar a esos nuevos clientes. El costo es, con razón, una preocupación muy importante para los clientes que están presentes. ¿Cuáles son sus principales consejos en ese sentido?

Dr. Swami Sivasubramanian:
Yo diría que primero, si ves algún proyecto de IA generativa y el equipo viene a hacerte una demostración, siempre te hacen una demostración con el modelo más potente. Lo que no te dicen es que es el modelo más caro y que la economía que tiene detrás no se sostiene. Si el ahorro en términos de dólares por usuario es algo así como 5 USD, pero el costo operativo se acerca a los 5 USD, no sirve para nada.

Por eso creo que es muy importante entrar en los detalles de la economía unitaria de lo que se intenta hacer. Cuando lo haces a escala, tienes que empezar a pensar: “¿Cómo puedo asegurarme de que sigo cumpliendo con mi nivel de precisión y, al mismo tiempo, con mi límite de costos?”. Por eso creamos técnicas como la destilación de modelos. Por lo tanto, los modelos instructores más costosos pueden enseñar a los modelos más pequeños para sus casos de uso.

Es como el equivalente… lo explico en términos de que estos modelos grandes son como genios con ocho doctorados. Pero no quieres que alguien con ocho doctorados se dedique, digamos, a escribir software. Se necesitan personas como yo, con 21 doctorados en computación, para escribir un programa de código o algo así. Así que tomas cualquier conocimiento especializado y le enseñas a resolver ese caso de uso. La destilación de modelos va a cambiar las reglas del juego.

La segunda cosa es la gobernanza de tareas de HyperPod. En muchos proyectos en los que se hace entrenamiento cruzado, la inferencia todavía se ejecuta directamente en las GPU o, cada vez más, en Trainium. Quieres que esa utilización sea lo más cercana posible, o superior, al 90 %. Ahora mismo en muchos casos no es así. Y eso es algo muy importante. A nivel interno trabajamos mucho en esto, y esas son las cosas que les animo a observar para crear mecanismos que administren estos costos.

Jonathan Allen:
Estupendo. Ahora me gustaría presionarle un poco sobre lo que cree que va a pasar en el futuro. Cada vez que se le hacía esta pregunta a Jeff Bezos, solía decir: “Hablemos de lo que no va a cambiar. Nuestros clientes siempre lo querrán más rápido. Querrán más opciones, querrán que sean más baratas”.

Pero, ¿puedo insistir un poco sobre hacia dónde cree que va a ir esto en los próximos doce meses?

Dr. Swami Sivasubramanian:
Justo iba a decir eso.

Jonathan Allen:
Si, es curioso.

Dr. Swami Sivasubramanian:
Eso es lo que iba a decir. Jeff me enseñó bien. A decir que esa no es la pregunta interesante. La pregunta más interesante es: ¿Qué es lo que no va a cambiar? Pero aprovecharé para compartir algunas ideas con ustedes, sin bromas, sino en serio.

Creo que la clave se puede agrupar en la categoría de las tres P. No como las tres P del MBA de marketing. Yo diría que el año pasado todo giró en torno a los prototipos. Este año se centró en la producción y el año que viene se centrará en la productividad.

De hecho, creo que vamos a entrar a una fase sin precedentes en la que veremos un aumento de la productividad en todas las áreas de nuestra organización. Las empresas que realmente adopten estas tecnologías y reinventen lo que hacen conseguirán que sus empleados sean cinco veces o diez veces más productivos, serán capaces de innovar más rápido. Las empresas que no las adopten, se van a quedar atrás.

Así que para mí, ese va a ser uno de los aspectos fundamentales. No se trata de adoptar un asistente de IA generativa. No se trata de poner un asistente para las herramientas de oficina o algo así. Sí, eso puede ser interesante. Pero se trata más bien de cómo pueden realmente trabajar mejor, de manera diferente.

Y luego resolver el problema que no quieren resolver. A todos nos encanta encargarnos de desafíos extremadamente difíciles y no nos gusta enfrentarnos a tareas mundanas. Por ejemplo, nadie se queja de que ya no hay que conmutar de forma manual las llamadas telefónicas desde que existe la conmutación automática. De hecho, a todo el mundo le encanta no tener que hacer ese trabajo.

Sin embargo, en ese momento, gestionar esa transición fue difícil. Es casi como un problema de transformación humana. Y creo que, como líderes, teníamos que guiar a nuestras organizaciones a través de eso de manera eficaz para poder reinventar la forma en que hacemos las cosas de manera realmente eficiente. Pero también teníamos que hacer que todos nuestros empleados adopten estas tecnologías para reinventar lo que hacemos, cómo lo hacemos y hacerlo mejor y con un propósito positivo.

Jonathan Allen:
Brillante. Swami, muchas gracias por pasar media hora con nosotros y compartir su sabiduría. Lo apreciamos enormemente. Muchas gracias por acompañarnos.

Dr. Swami Sivasubramanian:
Gracias por invitarme.

Jonathan Allen:
Gracias.

Dr. Swami Sivasubramanian:
Gracias.

Escuchar ahora

Escuchar ahora

Escuchar ahora