AUDI AG réduit fortement ses temps de réponse grâce à un chatbot basé sur l’IA générative et optimisé par Storm Reply et AWS

L’équipe Cloud Foundations du constructeur allemand de véhicules haut de gamme et de luxe AUDI AG crée une documentation qui aide les équipes internes à utiliser les solutions Amazon Web Services (AWS) de manière efficace et sécurisée. En raison de la quantité toujours croissante d’informations disponibles, les clients internes trouvaient difficilement les réponses dont ils avaient besoin. En conséquence, l’équipe Cloud Foundations consacrait plus de temps à essayer d’apporter son aide. Pour répondre rapidement et avec précision aux questions les plus fréquentes, Audi a travaillé avec Storm Reply, un partenaire AWS, pour créer un chatbot interactif à l’aide d’Amazon SageMaker en seulement quatre semaines. Grâce à cette solution, qui présentait une précision de 90 % lors des tests initiaux, le temps de réponse aux FAQ n’est plus que de six secondes.

Pour simplifier et standardiser l’utilisation du cloud au sein de l’entreprise, le constructeur allemand de véhicules haut de gamme et de luxe AUDI AG a créé une équipe Cloud Foundations. L’équipe est chargée de garantir la cohérence des normes de sécurité, de conformité et de qualité sur l’ensemble des comptes AWS de l’entreprise. Une partie de ce mandat comprend la création d’une documentation que les équipes internes peuvent utiliser pour travailler plus efficacement et prendre des décisions plus éclairées.

Au fil du temps, la quantité de documentation a considérablement augmenté. Ainsi, il est devenu plus difficile pour les utilisateurs de trouver rapidement ce dont ils avaient besoin sans avoir à parcourir des pages d’informations non pertinentes. Cette croissance a également créé plus de travail pour l’équipe Cloud Foundations, qui devait sans cesse répondre aux mêmes questions.

Pour fournir rapidement aux clients internes des informations précises et pertinentes, et pour libérer l’équipe de Cloud Foundations pour des activités à plus forte valeur ajoutée, Audi s’est tournée vers Storm Reply, partenaire consultant AWS Premier, pour créer un chatbot sécurisé basé sur l’intelligence artificielle (IA) générative sur AWS.

Membre du groupe Reply, Storm Reply se spécialise dans la conception et la mise en œuvre de solutions basées sur le cloud. Partenaire d’AWS depuis 2008, Storm Reply a mené à bien des centaines de projets cloud sur l’ensemble de la technologie AWS.

Le chatbot basé sur l’IA générative développé pour l’équipe Cloud Foundations utilise des grands modèles de langage (LLM) Llama 2 sur Amazon SageMaker. La solution utilise la technologie de génération à enrichissement contextuel (RAG), qui combine des bases de données vectorielles et des LLM pour rendre la recherche de grandes quantités de données plus structurée et efficace.

« Grâce à Storm Reply, nous avons pu passer de l’idée au produit minimum viable en seulement quatre semaines », explique Bernd Schuster, architecte de solutions cloud au sein de l’équipe Cloud Foundations d’Audi. « Reply est notre partenaire de choix lorsqu’il s’agit de développer sur AWS. »

Pour tester le chatbot initial, l’équipe de Bernd Schuster a téléchargé 80 gigaoctets de documentation interne. « Nous avons examiné les questions les plus fréquemment posées et nous avons atteint une précision de près de 90 % dès le début », explique Bernd Schuster. Comme le chatbot fournit des réponses précises adaptées à la question spécifique du demandeur, l’équipe de Bernd Schuster a constaté une diminution du nombre de demandes d’informations répétées.

Depuis la mise en œuvre du chatbot, les temps de réponse aux FAQ sont tombés à six secondes. « Auparavant, nos clients devaient soumettre un ticket interne et attendre que nous leur répondions. Maintenant, ils interrogent le chatbot et obtiennent exactement ce dont ils ont besoin en 100 caractères, sans avoir à parcourir des pages de documentation », explique Bernd Schuster.

À l’avenir, l’équipe Cloud Foundations continuera à affiner le modèle avec l’aide des experts en science des données de Storm Reply. L’équipe prévoit également de comparer Amazon Bedrock entièrement géré à Amazon SageMaker.

Et Bernd Schuster de conclure : « Grâce à Storm Reply et AWS, notre équipe Cloud Foundations peut se concentrer sur ce qu’elle fait de mieux : coder et concevoir de superbes voitures. »