Le Blog Amazon Web Services

Comment Imerys fait d’Amazon Bedrock le pilier de sa stratégie d’IA

Comment permettre à l’ensemble de l’entreprise d’utiliser l’IA générative sans compromettre la confidentialité et la sécurité des données sur des LLM ouverts et accessibles à tous ? C’est pour répondre à ce défi qu’Imerys, leader mondial des spécialités minérales pour l’industrie, s’est tournée vers une plateforme d’IA générative privée construite sur Amazon Bedrock. Objectif à terme : créer un « guichet unique » où chaque application pourra tirer parti de l’IA grâce à un large choix de grands modèles de langage (LLM).

Avec plus de 13 700 employés dans 39 pays, Imerys adresse une vaste gamme de secteurs à travers des solutions fonctionnelles à haute valeur ajoutée. Face à la compétitivité du marché, l’entreprise décide de s’appuyer sur l’IA générative pour développer un chat textuel et ainsi apporter des réponses rapides à ses équipes. Si une solution grand public est privilégiée dans un premier temps, Imerys y renonce rapidement. Les raisons : 1) La confidentialité de ses données commerciales n’est pas respectée, les informations renseignées dans les prompts étant réutilisées pour entraîner le LLM. 2) Les coûts prohibitifs à l’échelle de l’entreprise.

« Nous avions cette nouvelle capacité commerciale formidable dont nous pouvions tirer parti, mais nous ne pouvions pas l’utiliser parce qu’elle n’était pas sécurisée. Nous nous sommes alors dit que nous devions mettre en œuvre une IA générative sécurisée, c’est-à-dire privatiser notre instance et notre utilisation de ces grands modèles de langage », précise Bob Amos, Head of Data and Integration chez Imerys.

Une approche progressive et flexible pour une plateforme extensible

Le leader mondial se pose alors la question de la stratégie à adopter. Très vite, il apparaît que la seule capacité à apporter des réponses rapides n’est pas l’objectif final de cette plateforme. L’enjeu est en réalité de proposer un accès général à l’IA générative et donc, à terme, d’y connecter les applications métier de l’entreprise. En conséquence, Imerys se lance dès le départ dans la mise en œuvre d’une plateforme extensible, appelée « Improve.AI », capable de prendre en charge tout type d’IA générative et d’utiliser n’importe quel modèle de langage (LLM).

« L’idée était donc de déployer une plateforme qui nous permette de proposer une fonctionnalité de chat, mais également de commencer à bâtir un véritable orchestrateur d’IA qui permette, à terme, à n’importe laquelle de nos applications d’entreprise de s’interfacer avec l’IA générative. »

Amazon Bedrock répondait à ce défi ! En effet, l’un de ses points forts repose sur son aptitude à intégrer de nombreux modèles de langage, ouvrant ainsi le champ des possibles en termes d’applications d’IA et accélérant leur mise à l’échelle. « Avec Amazon Bedrock, nous avons la flexibilité de changer de modèle à la volée. En réalité, il s’agit plutôt d’une fonctionnalité de notre orchestrateur qui nous permet de changer de LLM à tout moment. » La preuve par l’exemple : si le grand modèle de langage Claude 3 Haiku a été utilisé pour le prototype, la plateforme a depuis été mise en service avec Anthropic Cloud 3.5 Sonnet.

En parallèle, l’orchestrateur accède également à des LLM spécifiques à un domaine, tels que des LLM juridiques, des LLM marketing ou des LLM de propriété intellectuelle proposés par d’autres fournisseurs. « La plateforme extensible que nous avons créée va nous permettre très rapidement d’ajouter de nombreux cas d’utilisation, autres que le chat, et nous offrir de nouvelles possibilités d’intégration dans nos applications d’entreprise. »

Amazon Bedrock : socle de rentabilité

Autre atout d’Amazon Bedrock : le service favorise un retour sur investissement rapide. Un enjeu d’autant plus critique que la plateforme Imerys, dans sa version finale, pourra compter jusqu’à 4 000 utilisateurs. Or la plupart des solutions du marché s’avèrent coûteuses.

« C’est pourquoi nous nous sommes associés à AWS pour construire notre plateforme sur la base d’Amazon Bedrock. Depuis six ans que nous travaillons ensemble, ils ne nous ont jamais déçus. Ils ont un vrai sens du partenariat. Et notre hub de données d’entreprise, véritable catalyseur pour l’avenir de notre IA, est entièrement construit sur les services AWS. »

Un pari gagnant à plus d’un titre. Avec un coût de développement divisé par dix par rapport à d’autres solutions de marché, Imerys est assuré d’un retour sur investissement rapide, donnant à l’entreprise la possibilité d’y ajouter progressivement de nouvelles fonctionnalités.

Outre Amazon Bedrock, Improve.AI intègre un certain nombre de services AWS, parmi lesquels : Amazon Elastic Container Service (ECS) et Amazon Elastic Container Registry (ECR), Amazon DynamoDB, Amazon API Gateway, Amazon S3, Amazon OpenSearch Service, Amazon Elastic Compute Cloud (EC2) et AWS Fargate. En complément, la plateforme fonctionne avec deux applications de Q&A : un chatbot et un mécanisme de Retrieval Augmented Generative (RAG).

Un déploiement et une adoption rapides dans l’entreprise

Avec l’aide d’une entreprise spécialisée en front end et des équipes AWS, Imerys met en place un prototype fonctionnel de sa plateforme en à peine un mois. « Nous n’avons eu besoin que d’une petite équipe en interne composée d’un ingénieur en IA, d’un spécialiste en infrastructure et d’un responsable Sécurité, accompagnés de deux experts AWS. L’expérience a été très positive et notre relation avec AWS particulièrement efficace. Nous n’aurions jamais pu réaliser ce projet dans les délais impartis sans leur aide. »

Lancé mi-septembre auprès de 800 employés, l’orchestrateur d’IA générative comptait mi-novembre près de 1 000 utilisateurs. Et les premiers retours sont bons, à l’image du taux d’utilisation et du coût du paiement à l’utilisation déjà très rentable. « Les collaborateurs l’utilisent pour leur travail quotidien. Que ce soit au niveau du taux d’utilisation ou du taux de rétention, les premiers KPI sont bons. Deux mois après sa mise en ligne, nous maintenons un nombre constant d’utilisateurs finaux avec une bonne moyenne de visites quotidiennes. »

Si à date, l’utilisation reste limitée, à terme, Improve AI sera ouverte à tous les métiers pour tout type de demande : développement de code informatique, questions d’ordre juridique ou marketing, etc.

D’un simple chat à un guichet unique

Le prototype initial incluait l’utilisation de la plateforme de messagerie instantanée, Google Chat. Il est donc possible d’accéder à l’orchestrateur soit par une interface web, soit par Google Chat, garantissant ainsi une réponse rapide aux utilisateurs et un accès simplifié aux services souhaités. « L’application de chat permet d’obtenir rapidement une réponse pour les besoins les plus simples, là où l’application web a vocation à être améliorée en continu avec de plus en plus de capacités pour proposer un accès le plus large possible aux connaissances disponibles et autres agents d’intelligence artificielle. »

À la suite de ce lancement réussi, Imerys peut d’ores et déjà envisager sereinement les prochaines étapes. La plateforme est en effet amenée à évoluer dans les mois à venir d’une première version pensée pour apporter une réponse rapide sur la base de 10 000 caractères à un véritable « guichet unique » regroupant toutes les applications d’IA.

« Nous cherchons principalement à ajouter des bases de connaissances supplémentaires dans l’entreprise et surtout à renforcer la sécurité d’accès à travers la mise en œuvre d’un vecteur RBAC. En complément, nous souhaitons également intégrer l’automatisation des processus robotiques (RPA) ainsi que nos applications d’entreprise comme notre ERP SAP S4 HANA. » Objectif : multiplier les cas d’usage. Ainsi, demain, il sera possible de créer, grâce à l’IA, un bon de commande nativement dans l’ERP ou d’utiliser l’assistant virtuel pour définir un itinéraire de voyage plutôt que l’application dédiée. Autre fonctionnalité bientôt disponible sur la plateforme Improve.AI : la possibilité pour l’utilisateur de choisir de choisir lui-même quel modèle utiliser pour répondre à sa demande, et d’opter ainsi pour un modèle plus adapté ou pour comparer les réponses obtenues. Il sera également possible de sélectionner différents modèles, de télécharger des documents et de personnaliser les vecteurs.

« Les assistants virtuels constituent une étape importante pour nous. L’idée est de pouvoir ajouter toutes sortes d’aides et de capacités d’IA au portail. Une autre étape est aussi de créer un lien vers des modèles spécifiques à un domaine. Par exemple, si je suis dans le domaine juridique et que je veux accéder à un LLM accordé au domaine juridique qui n’est pas sur Amazon Bedrock, je pourrai y accéder via notre orchestrateur et une API. Improve.AI est vraiment le principal mécanisme par lequel nous cherchons à obtenir un retour sur investissement. »

À terme, Imerys entend ouvrir sa plateforme à 4 000 utilisateurs au fur et à mesure que de nouvelles bases de connaissances, de nouveaux agents et de nouvelles intégrations avec les applications d’entreprise seront disponibles.