Reality Defender face à l’ère du deepfake : instaurer la confiance avec AWS

Un homme politique publie sur les réseaux sociaux une vidéo scandaleuse mettant en cause l’opposition. Un site d’information publie des photos de soldats commettant des crimes de guerre. Une mère reçoit un appel de sa fille qui lui demande de l’argent en urgence. Un responsable des ressources humaines mène un entretien vidéo avec un candidat à un poste très convoité. Il y a dix ans, nous regardions ces vidéos, voyions ces images, entendions ces voix et participions à ces appels sans remettre en question leur véracité. Aujourd’hui, c’est une tout autre histoire.

Les deepfakes ont envahi les médias grand public, le monde de l’information, la sphère politique et le monde des affaires. Nous avons appris à reconnaître certains des premiers signes révélateurs : des personnes à six doigts, des incohérences au niveau du visage, des intonations robotiques. Cependant, à mesure que les systèmes d’IA gagnent en sophistication et deviennent plus abordables, ces signes sont de plus en plus difficiles à repérer et la frontière entre réalité et supercherie s’estompe de plus en plus.

« Nous vivons dans ce que l’on pourrait qualifier de monde post-réel », explique Alex Lisle, directeur technique chez Reality Defender. « Du jour au lendemain, ce que l’on tenait pour acquis, ce que l’on croyait en voyant et en entendant, a soudainement cessé d’être vrai. Et cela s’est produit à une vitesse fulgurante. » Il est difficile de s’y retrouver dans ce nouveau monde. Sur le plan humain, cela nécessite un changement complet de mentalité. Les deepfakes ont peut-être évolué rapidement, mais notre façon d’interpréter le monde, elle, n’a pas changé. « Nous continuons à croire ce que nous croyons », explique M. Lisle. De plus, cela nécessite non seulement de nouvelles technologies, mais aussi des entreprises capables d’innover en permanence et d’adapter leurs solutions pour suivre le rythme du développement des deepfakes basés sur l’IA. Reality Defender est l’une de ces entreprises.

La confiance à l’ère de l’IA

Basée à New York, cette start-up de 55 personnes est « leader du marché de la détection des deepfakes », affirme son fondateur et PDG, Ben Colman. Sa solution permet de détecter les deepfakes dans les vidéos et les enregistrements vocaux en temps réel, ainsi que dans les images, sécurisant ainsi les canaux de communication critiques sans exiger aucune donnée biométrique de la part de ses clients. Pour Reality Defender, « il était tout naturel pour nous de nous lancer avec AWS dès nos débuts », explique M. Colman. En utilisant des solutions AWS telles qu’Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda et Amazon RDS, Reality Defender a construit une plateforme capable de répondre aux exigences de sécurité et de capacité de mise à l’échelle de ses clients, parmi lesquels figurent des institutions financières, des entreprises de cybersécurité, ainsi que des agences gouvernementales et des ministères de la Défense.

Au cours de ses débuts, Reality Defender a pu accélérer son développement grâce à sa participation aux programmes d’accélérateur d’IA générative AWS et AWS Activate, ainsi qu’à l’utilisation des crédits AWS. Depuis lors, le soutien, l’infrastructure et les initiatives d’AWS ont aidé cette start-up à innover, à se développer et à remporter des prix et de nouveaux clients. Plus récemment, elle a pris part à plusieurs événements liés à AWS et envisage désormais de s’inscrire sur AWS Marketplace afin de soutenir sa stratégie de commercialisation.

Une longueur d’avance sur les deepfakes

Les deepfakes sont aujourd’hui reconnus comme une menace, mais il y a quelques années encore, ce domaine était peu étudié et peu médiatisé. « Nous avons lancé l’entreprise sous la forme d’un projet de recherche à but non lucratif avant les élections présidentielles américaines de 2020 », explique M. Colman. « Nous avons commercialisé un outil, avec l’idée qu’il permettrait de détecter les deepfakes lors de ces élections. Nous avons très vite réalisé qu’il n’y avait pas de deepfakes lors des élections de 2020, et que nous avions plusieurs années d’avance sur le marché. »

Le décalage entre la vision de Reality Defender et la prise de conscience générale du marché a donné à l’entreprise le temps d’affiner son produit, mais a également créé une pression pour développer efficacement ses solutions avec des ressources limitées. L’accès aux crédits AWS via AWS Activate s’est avéré essentiel. « Nous avions une longueur d’avance sur le marché, de trois ou quatre ans », explique M. Colman. « Mais grâce à cette collaboration, et grâce aux crédits et à l’accès à des machines spécifiques, nous avons pu nous lancer tôt » en développant sa solution et en constituant son équipe à temps pour répondre aux besoins et relever les défis de l’ère du deepfake qu’elle avait anticipée.

À ce titre, Reality Defender compte désormais parmi ses clients certains des plus grands noms de leurs secteurs respectifs, notamment des cabinets de services professionnels tels qu’Accenture et Booz Allen Hamilton, des banques de premier plan comme JP Morgan, ainsi que des organismes gouvernementaux aux États-Unis et au Royaume-Uni.

Détecter la tromperie en temps réel

Malgré une prise de conscience accrue de l’impact des deepfakes dans ces secteurs, aucun véritable changement culturel ne s’est encore produit. « En très peu de temps, la technologie permettant la création de deepfakes a considérablement évolué, mais l’état d’esprit et les convictions fondamentales des consommateurs de contenu, eux, n’ont pas changé », indique M Lisle. « L’idée derrière Reality Defender était de pouvoir déterminer en temps quasi réel, à partir du seul artefact brut, si celui-ci est réel ou non. Il y a soudainement un besoin fondamental de pouvoir répondre à cette question. »

Pour surmonter cet obstacle, les entreprises ont besoin d’une solution simple à mettre en œuvre et garantissant une sécurité robuste. À mesure que la prise de conscience de la menace que représentent les deepfakes s’accroît et que les cas d’utilisation de ces technologies se multiplient, cette solution doit également être évolutive, afin de permettre aux entreprises d’identifier et de prévenir les attaques avant qu’elles ne causent des dommages.

Reality Defender a développé sa plateforme pour répondre à ces besoins. « Il existe toute une série d’outils qui, historiquement, ont accompli de nombreuses tâches dans les domaines de l’authentification vocale, des centres d’appels, de la vérification d’identité, de la visioconférence et bien au-delà. Mais aucun d’entre eux ne résout le problème des deepfakes », explique M. Colman. Ces outils peuvent être capables d’identifier les informations d’identification d’une personne, tels que son appareil, sa géolocalisation ou son numéro de sécurité sociale, mais ils ne peuvent pas prouver que la personne utilisant ces informations est bien celle qu’elle prétend être. « Il faut un outil capable d’analyser la voix ou le visage de cette personne en temps réel, puis d’intégrer ce signal à tous les outils que vous utilisez déjà. » C’est exactement ce que fait la plateforme de Reality Defender, et comme elle est axée sur les API, « elle fournit un signal à tous les outils de lutte contre la fraude, aux plateformes de centres d’appels en temps réel ou aux solutions de visioconférence que tout le monde utilise déjà. »

L’infrastructure AWS simplifie le déploiement pour les entreprises qui exploitent déjà des environnements AWS, ce qui signifie que les organisations peuvent intégrer les capacités de détection de Reality Defender dans leurs flux de travail existants. De nombreux clients de Reality Defender sont « de gros consommateurs de ressources de calcul AWS », déclare M. Colman, et peuvent exploiter ses données via Amazon Connect, une solution qui fait déjà partie de leur pile technologique. « Nous analysons tout le trafic vocal entrant et sortant de leurs centres d’appels, ce qui serait impossible sans notre relation de longue date avec AWS », ajoute-t-il. Cette relation a permis à la start-up de « s’adapter à l’infini et d’analyser simultanément les appels téléphoniques en temps réel, les vidéoconférences en temps réel grâce à des intégrations avec Zoom et Teams, les outils de protection de la marque, la surveillance des réseaux sociaux, l’analyse des points de terminaison, et bien plus encore. »

Les avantages d’une capacité de mise à l’échelle infinie et de la sécurité

Étant donné que Reality Defender gère des communications en temps réel très sensibles pour des clients évoluant dans des secteurs fortement réglementés, « nous devons sans cesse leur prouver que non seulement nous, mais aussi nos partenaires en amont ou en aval, comme AWS, leur offrons un soutien répondant aux normes de sécurité les plus élevées », explique M Colman. Un rapide coup d’œil au palmarès de l’entreprise montre qu’elle a déjà obtenu cette reconnaissance. Parmi ses distinctions, on compte son intronisation au JP Morgan Hall of Innovation, une place parmi les Technology Pioneers 2025 du Forum économique mondial, et le RSAC Innovation Sandbox : « les Oscars de la cybersécurité », précise le PDG.

Une fois encore, le partenariat étroit avec AWS a joué un rôle déterminant. « Ce que nous avons présenté à la RSAC, et qui nous a permis de remporter le prix en 2024, reposait précisément sur notre collaboration avec AWS », explique M Colman. Reality Defender est également mieux à même de répondre aux exigences de sécurité fondamentales de ses clients. D’un point de vue global, cela signifie permettre aux clients de détecter la fraude et les activités malveillantes dans un environnement AWS sécurisé « à très grande échelle ». À un niveau plus restreint, mais non moins crucial, cela a simplifié les processus de sécurité pour Reality Defender, comme la création de rapports d’évaluation des risques fournisseurs, « ce que nous n’aurions pas pu faire sans le partenariat avec AWS ».

La capacité de mise à l’échelle a pris une importance croissante à mesure que Reality Defender s’est développée dans le domaine des communications d’entreprise en temps réel, traitant d’importants volumes d’interactions vocales et vidéo simultanées. L’entreprise s’appuie sur l’infrastructure AWS car, « elle est en effet évolutive à l’infini », indique M. Colman. « Nous n’avons jamais rencontré de problème de saturation chez un client, car nous utilisons la mise à l’échelle automatique d’AWS à un point tel que nous avons déjà pu détecter la première attaque DDoS de type vocal sur un client du classement Fortune 10. » L’utilisation des solutions AWS, notamment pour entraîner ses modèles de base, déployer sa plateforme SaaS et utiliser des bases de données gérées, « nous aide à évoluer vers les niveaux dont nous avons besoin », ajoute M. Lisle.

Accélérer la croissance grâce à la collaboration

Cette collaboration va bien au-delà des simples échanges à l’écran. L’équipe de Reality Defender a pu profiter de réunions « exceptionnelles » sur place, au siège d’AWS à Seattle, explique M. Colman, au cours desquelles elle a bénéficié d’un soutien essentiel pour de nombreuses start-ups technologiques en phase de démarrage. « C’est toujours un défi quand on a une solution tech de pointe et qu’on veut remplir une diapositive de statistiques. Ça ne raconte pas une histoire », explique-t-il. « AWS nous a aidés à vraiment raconter cette histoire d’une manière accessible. »

Depuis lors, Reality Defender a largement diffusé son histoire, en organisant des présentations à l’intention des parties prenantes, en rencontrant des investisseurs et en renforçant la notoriété de sa marque lors de grands événements du secteur. Ces opportunités « n’auraient pas été possibles sans AWS », affirme le fondateur. « Cette collaboration a été essentielle, non seulement pour la NVIDIA GTC, mais aussi lors de conférences de premier plan telles que RSAC, Money 2020, Black Hat et Defcon, où nous avons bénéficié du soutien d’AWS, qu’il s’agisse de stands, de ressources informatiques ou de démonstrations conjointes, auprès de clients communs. »

Naviguer dans l’ère de l’après-réalité

Reality Defender a été fondée sur une vision claire de l’évolution des deepfakes dans le monde de l’entreprise et des menaces que cela impliquerait. Avant le tournant marqué par ChatGPT et avant que les deepfakes et l’IA générative ne deviennent des mots à la mode, la start-up avait besoin d’un partenaire qui partageât sa vision et pût l’aider à réussir. « Le fait qu’AWS et Amazon s’intéressaient déjà à l’IA à l’époque nous a vraiment aidés à accélérer considérablement non seulement notre recherche et développement, mais aussi notre mise sur le marché », explique M. Colman. L’équipe d’AWS « a toujours répondu à nos demandes les plus farfelues », ajoute M. Lisle. « Comme vous pouvez l’imaginer, nous faisons des choses à la pointe de la technologie. Il y a toujours eu un représentant ravi de discuter avec nous et de nous guider dans certains des aspects les plus ésotériques de notre activité. »

À l’heure où l’ésotérique a perdu de son mystère et où l’insolite est devenu la norme, Reality Defender se tourne vers l’avenir pour conquérir de nouveaux clients et marchés, tels que les associations à but non lucratif et les groupes défendant la démocratie. « AWS a toujours été un partenaire sur qui nous pouvons compter pour nous aider ou surmonter tous les obstacles nécessaires afin de garantir la pérennité de notre succès », déclare M. Lisle.

Dans un monde où l’on ne peut plus se fier aveuglément à ce que l’on voit et entend, Reality Defender reste déterminé à rétablir la confiance dans les communications numériques. Qu’il s’agisse de protéger les consommateurs contre la fraude, de contribuer à préserver l’intégrité journalistique ou de soutenir la sécurité des gouvernements et des entreprises, la mission de l’entreprise repose sur une question simple mais de plus en plus urgente : qu’est-ce qui est réel ? Grâce à AWS, qui fournit l’infrastructure, la capacité de mise à l’échelle et l’assistance nécessaires pour répondre à cette question en temps réel, Reality Defender continuera à affiner sa plateforme et sa stratégie et à redéfinir la confiance à l’ère de l’IA.