Cómo Hugging Face ayuda a las empresas a adoptar modelos abiertos

La gran visión de Hugging Face cuando comenzó era “permitir que cualquier persona pudiera tener una conversación divertida con un modelo de machine learning”, como dice Boudier. Si bien esto pudo haber sido una ambición audaz en 2016, actualmente la empresa está materializando esa visión al hacer que la implementación de tecnologías de vanguardia sea accesible tanto para las personas como para las empresas.

Anteriormente, las empresas creaban pruebas de concepto (PoC) con modelos cerrados no porque fuera su mejor opción, sino porque era la ruta más rápida y sencilla. El desarrollo de una aplicación de IA con modelos abiertos suele implicar muchas pruebas y corrección de errores, ya que los ingenieros se encargan de todo, desde la configuración hasta la compilación. Para cumplir con los requisitos de rendimiento y cumplimiento, deben ajustar las bibliotecas, las versiones y los parámetros.

Con HUGS, las organizaciones pueden evitar los quebraderos de cabeza que supone desarrollar una aplicación de IA con modelos abiertos. La solución lista para usar está cambiando las reglas del juego para quienes buscan aprovechar la ventaja de la IA generativa. No se necesita ninguna configuración, lo que significa que sencillamente toman un modelo abierto y lo ejecutan. Lo que solía llevar semanas ahora solo lleva unos minutos, ya que los modelos se optimizan automáticamente para la GPU o el acelerador de IA.

A lo largo del camino de Hugging Face hacia la democratización de la IA, su colaboración con AWS les ha ayudado a pasar de ser una startup en fase inicial a convertirse en una pionera en el sector, con modelos de IA que utilizan millones de personas cada mes. A medida que estos modelos siguen avanzando y las empresas buscan tener cada vez más beneficios, HUGS les ofrece acceso a una colección cuidadosamente seleccionada y comparada manualmente de los modelos de lenguaje grandes (LLM) abiertos más recientes y de mayor rendimiento.

La colaboración más reciente de Hugging Face con Amazon Web Services (AWS) ha hecho que las empresas ya no tengan que hacer concesiones entre el costo, el rendimiento y la velocidad de implementación. Ahora que la solución está disponible en los chips de IA de AWS Inferentia2, los desarrolladores pueden optimizar aún más el rendimiento de los modelos para reducir la latencia y aumentar el rendimiento, a la vez que ahorran hasta un 40 % en costos de inferencia. Y esa no es la única forma en que están haciendo que las aplicaciones de IA generativa sean más accesibles para las empresas de todos los tamaños. Al trabajar en conjunto en la biblioteca Optimum Neuron de código abierto, las empresas obtienen los beneficios de HUGS y, al mismo tiempo, mantienen los gastos generales mínimos.

Desde la creación de asistentes virtuales hasta la creación de contenido cautivador en segundos, los modelos de Hugging Face abarcan una gran cantidad de casos de uso. Si bien estos modelos funcionan bien en comparación con los puntos de referencia académicos, Boudier afirma que se puede obtener un valor aún mayor con la personalización: “Los aspectos importantes son diferentes para cada caso de uso. Con el ajuste y el aprendizaje por refuerzo, se pueden mejorar los modelos abiertos y hacer que sean mucho mejores que los modelos cerrados”.

Con AWS Inferentia2 en Amazon SageMaker, los modelos de Hugging Face se pueden personalizar para mejorar la calidad de los modelos para tareas específicas y permitir cargas de trabajo de producción a escala. La solución también facilita a los desarrolladores lograr un impacto inmediato al mejorar los modelos mediante una variedad de técnicas como la ingeniería de peticiones, la generación aumentada por recuperación (RAG) y más.

Las grandes empresas, como Thomson Reuters, ya están escalando modelos abiertos en AWS de forma segura y eficaz. Ahora, con HUGS y AWS Inferentia2, tienen el hardware optimizado para crear aplicaciones de IA generativas con confianza y rapidez y, a su vez, recuperar el valor más rápido. Están disponibles en AWS Marketplace y, con una integración perfecta de la infraestructura de AWS, los desarrolladores pueden encontrar, suscribirse e implementar fácilmente modelos abiertos según sus condiciones.

A medida que Hugging Face avanza hacia la viabilidad de los modelos abiertos para todos, amplía los LLM disponibles a través de HUGS para mantener las aplicaciones de los clientes a la vanguardia. Al ofrecer más opciones de código abierto y simplificar el uso, las empresas ahora tienen la libertad de elegir entre modelos abiertos y cerrados.