LG AI Research développe un modèle de fondation à l'aide d'Amazon SageMaker

Le conglomérat sud-coréen LG Group collecte de grandes quantités de données auprès de ses entreprises, notamment avec les appareils électroménagers, les télécommunications, les batteries et les produits pharmaceutiques. L'un des piliers de la transformation numérique du groupe est le développement de la technologie d'IA et l'intégration de l'IA dans ses produits et services. Le groupe a créé LG AI Research pour exploiter la puissance de l'IA dans sa stratégie de transformation numérique, développer de meilleures expériences client et résoudre les défis courants du secteur.

Lorsque LG AI Research a décidé de développer son modèle de fondation de nouvelle génération (qui s'inspire du fonctionnement du cerveau humain et possède une capacité avancée d'apprentissage et de jugement), elle a cherché la plateforme de machine learning (ML) la plus efficace pour gérer de grandes quantités de données ainsi que des entraînements et des inférences à grande échelle. Le modèle de fondation devait s'entraîner sur des dizaines de téraoctets de données pour effectuer des déductions similaires à celles d'un humain, ainsi que comprendre des textes et des images. De plus, le projet exigeait une infrastructure informatique performante et la flexibilité nécessaire pour s'adapter à des milliards de paramètres pendant l'entraînement.

L'automatisation du flux de travail était également importante, car plusieurs modèles ou tâches en aval devaient être exécutés simultanément. Pour répondre à ces exigences, l'institut a envisagé une infrastructure sur site, mais les coûts étaient trop élevés et il aurait fallu 20 employés pour configurer et maintenir le matériel sur site. En outre, cela aurait demandé une mise à niveau annuelle des GPU actuels et l'ajout de nouveaux GPU pour faire face aux pics de charge de travail. Compte tenu de tous les défis liés à une solution sur site, LG AI Research a décidé qu'Amazon SageMaker était la solution la mieux adaptée à ce projet.

LG AI Research n'a mis qu'un an à déployer en production son modèle de fondation, EXAONE. EXAONE, qui signifie « IA experte pour tous », est un modèle multimodal de 300 milliards de paramètres qui utilise à la fois des images et des données textuelles.

LG AI Research a utilisé Amazon SageMaker pour entraîner son modèle de fondation à grande échelle, et Amazon FSx pour Lustre pour distribuer des données dans des instances afin d'accélérer l'entraînement des modèles. En s'appuyant sur AWS, LG AI Research a pu résoudre des problèmes, mettre en œuvre des points de contrôle, affiner et déployer avec succès le modèle en production.

Gwang-mo Song, de LG AI Research, explique : « En utilisant l'infrastructure d'entraînement distribué hautes performances d'Amazon SageMaker, les chercheurs peuvent se concentrer uniquement sur l'entraînement des modèles plutôt que sur la gestion de l'infrastructure. De plus, en tirant parti de la bibliothèque de données parallèle d'Amazon SageMaker, nous avons pu obtenir rapidement des résultats d'entraînement à mesure que le nombre de GPU et les paramètres du modèle augmentaient. »

En éliminant le besoin d'une équipe de gestion d'infrastructure distincte, LG AI Research a réduit ses coûts d'environ 35 %. Elle a également augmenté la vitesse de traitement des données d'environ 60 % grâce à la bibliothèque parallèle de données distribuée offerte par Amazon SageMaker.

À l'aide d'EXAONE, LG AI Research a développé une artiste virtuelle basée sur l'IA appelée Tilda. La force fondamentale des qualités artistiques de Tilda provient d'EXAONE, qui a été conçu à l'aide de 600 milliards d'œuvres d'art et de 250 millions d'images haute résolution accompagnées de texte. L'artiste virtuelle a créé 3 000 images et motifs pour la créatrice de mode Yoon-hee Park. Cette dernière a conçu plus de 200 tenues pour la Fashion Week de New York 2022 en utilisant les images et les motifs de Tilda.

Le travail de Park avec LG AI Research a démontré le potentiel de l'extension de la technologie de l'IA à l'industrie de l'art, en développant l'écosystème de l'IA et en encourageant la collaboration interindustrielle. L'entreprise a récemment annoncé un partenariat avec la Parsons School of Design de New York pour mener des recherches conjointes sur les technologies avancées d'IA à exploiter dans l'industrie de la mode.

Avec Tilda, EXAONE a montré comment les modèles de fondation peuvent contribuer à transformer un large éventail de secteurs, de la fabrication à la recherche en passant par l'éducation et la finance. LG AI Research poursuit ses travaux visant à donner plus de valeur à la vie humaine en utilisant son modèle de fondation et a hâte de collaborer étroitement avec AWS sur de futurs projets.