Fork Media réduit ses coûts de 40 % grâce aux bases de données exécutées sur les processeurs AWS Graviton2

La publicité contextuelle, dans laquelle les publicités placées sur un site web correspondent au contenu pertinent de cette page, devrait augmenter de 13,3 % par an jusqu'en 2026. Bien que le placement de publicités contextuelles soit un moyen efficace de cibler les utilisateurs susceptibles de répondre, les marques doivent faire attention à l'environnement dans lequel leur annonce est placée. La plupart des marques ne voudraient pas que leur annonce soit diffusée à côté d'un article parlant de corruption politique, par exemple, même si certains mots clés de l'algorithme publicitaire correspondent au contexte.

Basée en Inde, Fork Media Group (FMG) est une société de technologie multimédia qui va au-delà de la publicité contextuelle pour offrir « la sécurité de la marque ». Au cours des cinq dernières années, FMG a déployé des outils d'intelligence artificielle et de machine learning pour comprendre les images, le corps de texte, le titre et le sentiment général d'une page web avant de diffuser une publicité destinée à ses clients. Les marques bénéficient d'une adaptation complète au contexte et d'un environnement sûr pour la marque. FMG diffuse actuellement des publicités auprès de 7 à 9 millions de visiteurs web uniques par jour et travaille avec les principaux diffuseurs de publication en ligne locaux et internationaux en Inde, en Asie du Sud-Est et dans les pays du Conseil de coopération du Golfe (CCG).

FMG utilisait deux plateformes de cloud computing différentes. Cependant, au fur et à mesure que l'entreprise se développait, la latence de la diffusion de ses ressources multimédias – composées de vidéos, d'audio et d'images statiques – a commencé à se situer entre 500 millisecondes et 1 seconde, soit plus que son contrat de niveau de service interne de 200 millisecondes.

Pour respecter son SLA et optimiser la visibilité des publicités, FMG a décidé de consolider ses bases de données de serveurs publicitaires sur Amazon Web Services (AWS) en 2019. L'entreprise a commencé à utiliser Amazon CloudFront comme réseau de diffusion de contenu à faible latence et respecte désormais systématiquement son SLA.

Elle a également adopté Amazon Elastic Compute Cloud (Amazon EC2) Auto Scaling avec les instances Spot Amazon EC2, qui représentent près de 60 % de sa capacité Amazon EC2 dédiée aux charges de travail de diffusion de publicités. Cette approche optimise la diffusion des publicités de FMG tout en minimisant les coûts, ce qui se traduit par une réduction des coûts de 30 % pour l'entreprise. En utilisant Amazon EC2 Auto Scaling pour ajouter de la capacité de manière dynamique en cas de pic de trafic, FMG a également réduit de 50 % la latence de diffusion des publicités.

À la mi-2020, FMG avait migré environ la moitié de ses charges de travail vers AWS et gérait elle-même son moteur de base de données MySQL principal sur Amazon EC2. Cependant, ses ingénieurs ont eu du mal à gérer des volumes de requêtes élevés pour sa base de données critique, avec 25 à 40 requêtes par utilisateur.

L'entreprise a choisi Amazon Relational Database Service (Amazon RDS) équipé de processeurs x86, en association avec Amazon Elastic Block Store (Amazon EBS) pour automatiser l'administration des bases de données à grande échelle. Toutefois, les performances ont été entravées par des goulots d'étranglement liés aux opérations d'entrée/sortie par seconde (IOPS) du disque. FMG a déterminé qu'elle devait provisionner séparément les IOPS pour atteindre les performances de requête requises, mais cela s'est avéré trop coûteux. FMG a été obligée d'allouer une plus grande taille de disque pour obtenir de meilleures IOPS, ce qui a fait grimper les coûts.

Réfléchissant aux gains de performances en matière de diffusion de contenu et aux économies réalisées grâce aux instances Spot, FMG a contacté AWS pour obtenir des conseils. L'équipe AWS a suggéré de réaliser une preuve de concept (POC) avec des processeurs basés sur AWS Graviton2 ARM afin d'obtenir le meilleur rapport prix/performance pour les bases de données exécutées sur Amazon EC2.

Étant donné que l'exécution de charges de travail sur des processeurs AWS Graviton2 coûte moins cher que l'utilisation de processeurs x86, FMG a été en mesure de mettre à niveau ses instances de r5.4xlarge vers r6g.16xlarge, augmentant ainsi la mémoire pour un coût quasiment identique. Les instances de niveau supérieur permettaient essentiellement à FMG d'effectuer davantage de requêtes en mémoire, plus rapidement, tout en réduisant la charge de stockage et les coûts liés aux IOPS.

Carlyle Oliver, responsable de l'ingénierie chez Fork Media Group – Contextuel, déclare : « Nous avons été en mesure d'évoluer sans encourir de coûts et de blocages supplémentaires, en utilisant la même configuration réseau. Cela aurait été nettement plus cher sur un processeur autre que Graviton. »

En outre, les volumes de stockage d'Amazon EBS ont diminué de 25 %, ce qui contribue à une baisse de 40 % du coût global de la base de données principale de l'entreprise et du stockage associé. Nikhil Sheth, vice-président senior de l'ingénierie chez Fork Media Group, explique : « Grâce aux instances Graviton, nous avons obtenu de meilleures performances en lecture/écriture sur disque et avons donc pu réduire nos volumes Amazon EBS. En utilisant les processeurs AWS Graviton2, nous pouvons fournir de manière rentable les performances et la latence requises pour nos solutions publicitaires. »

Après avoir migré sa base de données principale vers les processeurs AWS Graviton2, FMG a migré une autre base de données peu de temps après. FMG a mis un peu moins de trois mois à migrer les deux bases de données, en incluant le temps nécessaire à la POC et aux tests. Elle a progressivement effectué la migration vers les instances R6g pendant les périodes d'activité publicitaire faible ou nulle entre 23 h et 1 h du matin.

Pour la plupart, voire pour la totalité, des membres de l'équipe de FMG, il s'agissait de leur première expérience avec des processeurs ARM. Oliver explique : « Nous avons hésité à utiliser Graviton au départ, mais après la POC et les tests de charge, toutes ces hésitations ont disparu. AWS a fourni des suggestions avant et pendant la migration, qui, associées à la documentation en ligne, nous ont permis de migrer en toute confiance et en toute indépendance. »

L'entreprise a découvert une large gamme de logiciels compatibles ARM disponibles sur le marché, en particulier pour les utilisateurs intensifs de technologies open-source telles que FMG. Selon Oliver, le fait de trouver la configuration optimale du système d'exploitation (SE) et de la base de données était également la clé du succès. « Nous avons dû limiter la sélection de la bonne combinaison et de la bonne version du système d'exploitation Ubuntu, des bibliothèques prises en charge et de la dernière édition de MySQL compatible avec notre système. À partir de là, nous avons intégré des solutions de surveillance open-source compatibles, et les performances n'ont cessé de s'améliorer depuis. »

À compter de décembre 2021, l'entreprise migre tous ses serveurs publicitaires de production vers Graviton, dans le but d'égaler les gains de prix et de performances obtenus avec ses bases de données. Elle met également en conteneur la diffusion des publicités à l'aide d'Amazon Elastic Kubernetes Service (Amazon EKS) et envisage de créer un lac de données sur AWS afin de tirer parti de davantage d'analyses sur ses volumes de données croissants.

L'intégration de solutions natives cloud sur AWS a également contribué à des gains de latence supplémentaires. La latence entre les points de terminaison nécessaire à la diffusion de toute ressource publicitaire statique est passée de plus de 500 millisecondes à 50 millisecondes. Selon Oliver, ceci fait une énorme différence dans les performances des applications de FMG.

Outre la réduction des coûts, la consommation de CPU de FMG a diminué de 45 % depuis la migration vers les processeurs AWS Graviton2. Oliver conclut : « Nous pouvons désormais gérer 30 à 40 % de trafic utilisateur en plus avec la même configuration d'infrastructure. Nous sommes désormais bien placés pour nous développer conformément aux projections de croissance des technologies publicitaires et de la publicité contextuelle. »

Pour en savoir plus, consultez la page Processeur AWS Graviton.