Reality Defender contro l'era dei deepfake: creare fiducia con AWS

Un politico pubblica sui social media un video scandaloso dell'opposizione. Un sito di notizie pubblica foto di soldati che commettono crimini di guerra. Una madre riceve una telefonata dalla figlia che le chiede dei soldi per un'emergenza. Un responsabile delle risorse umane conduce un colloquio video con un candidato per un'importante posizione lavorativa. Dieci anni fa, avremmo guardato questi video, visto queste immagini, ascoltato queste voci e partecipato a queste telefonate senza metterne in dubbio la veridicità. Oggi, la situazione è ben diversa.

I deepfake si sono infiltrati nei media popolari, nel panorama giornalistico, nella sfera politica e nel mondo aziendale. Abbiamo imparato a riconoscere alcuni dei primi segnali rivelatori: persone con sei dita, incongruenze facciali, toni robotici. Tuttavia, man mano che i sistemi di intelligenza artificiale diventano più sofisticati e più economici, i segnali diventano più difficili da individuare e il confine tra realtà e frode si fa sempre più labile.

"Viviamo in quello che probabilmente definiremmo un mondo post-realtà", afferma Alex Lisle, CTO di Reality Defender. "All'improvviso, qualcosa che davamo per scontato, ovvero che vedere e sentire significasse credere, improvvisamente non lo era più. E questo è successo con una rapidità sorprendente." Orientarsi in questo nuovo mondo è problematico. A livello umano, richiede un completo cambiamento di mentalità. I ​​deepfake si sono evoluti rapidamente, ma il modo in cui interpretiamo il mondo non lo ha fatto. "Crediamo ancora in ciò in cui crediamo", afferma Lisle. Inoltre, non richiede solo nuove tecnologie, ma anche aziende in grado di innovare e scalare costantemente le proprie soluzioni per stare al passo con lo sviluppo dei deepfake basati sull'intelligenza artificiale. Reality Defender è una di queste aziende.

Fiducia nell'era dell'IA

Con sede a New York, la startup di 55 persone è "leader di mercato nel rilevamento dei deepfake", afferma il fondatore e CEO Ben Colman. La sua soluzione è in grado di rilevare i deepfake in video e voce in tempo reale, nonché nelle immagini, proteggendo i canali di comunicazione critici senza richiedere dati biometrici ai suoi clienti. Per Reality Defender, "era naturale per noi iniziare con AWS nei nostri primi giorni", afferma Colman. Utilizzando soluzioni AWS come Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda, Amazon RDS, Reality Defender ha creato una piattaforma in grado di soddisfare i requisiti di sicurezza e scalabilità dei clienti, tra cui istituzioni finanziarie, aziende di sicurezza informatica, agenzie governative e dipartimenti della difesa.

I progressi iniziali sono stati accelerati dalla partecipazione di Reality Defender ai programmi AWS Generative AI Accelerator e AWS Activate, nonché dall'utilizzo dei Crediti AWS. Da allora, il supporto, l'infrastruttura e le iniziative di AWS hanno aiutato la startup a innovare, crescere e vincere premi e acquisire clienti. Più recentemente, ha partecipato a diversi eventi correlati ad AWS e sta valutando la possibilità di quotarsi su AWS Marketplace per supportare la propria strategia di ingresso sul mercato.

All'avanguardia nel mondo dei deepfake

Oggi i deepfake sono una minaccia ampiamente riconosciuta, ma solo pochi anni fa il settore era poco esplorato e poco studiato. "Abbiamo fondato l'azienda come progetto di ricerca senza scopo di lucro in vista delle elezioni del 2020", spiega Colman. "Siamo entrati nel mercato con uno strumento, con l'idea che fosse in grado di rilevare i deepfake durante le elezioni. Ci siamo resi conto molto rapidamente che non c'erano deepfake nelle elezioni del 2020 e che eravamo in anticipo di diversi anni rispetto al mercato".

Il divario tra la visione di Reality Defender e la consapevolezza del mercato in generale ha dato all'azienda il tempo di perfezionare il suo prodotto, ma ha anche creato la pressione di svilupparlo in modo efficiente con risorse limitate. L'accesso ai crediti AWS tramite AWS Activate è stato fondamentale. "Eravamo molto avanti rispetto al mercato, di tre o quattro anni", afferma Colman. "Ma la collaborazione, e grazie ai crediti e all'accesso a macchine specifiche, siamo stati in grado di farlo in anticipo", costruendo la soluzione e il team in tempo per soddisfare le esigenze e le sfide dell'era dei deepfake che aveva previsto.

Pertanto, Reality Defender ora serve alcuni dei nomi più importanti nei rispettivi settori, tra cui società di servizi professionali come Accenture e Booz Allen Hamilton, banche di primo livello come JP Morgan, nonché agenzie governative negli Stati Uniti e nel Regno Unito.

Rilevare l'inganno in tempo reale

Nonostante la crescente consapevolezza dell'impatto dei deepfake in questi settori, non si è ancora verificato un vero e proprio cambiamento culturale. "In un breve lasso di tempo, la tecnologia che permette la creazione di deepfake si è evoluta in modo significativo, ma la mentalità e le convinzioni fondamentali di chi fruisce di questi contenuti sono rimaste invariate", afferma Lisle. "L'idea alla base di Reality Defender era quella di poter dire, quasi in tempo reale, a partire dal semplice artefatto grezzo: 'È reale o no?'. Improvvisamente è emersa l'esigenza fondamentale di poter rispondere a questa domanda".

Per superare questo ostacolo, le organizzazioni necessitano di una soluzione semplice da implementare e che garantisca una sicurezza solida. Con la crescente consapevolezza della minaccia rappresentata dai deepfake e con l'aumento dei casi di utilizzo di tali tecnologie, questa soluzione deve essere anche scalabile, consentendo alle aziende di identificare e prevenire gli attacchi prima che causino danni.

Reality Defender ha sviluppato la sua piattaforma per rispondere a queste esigenze. "Esistono molti strumenti che storicamente hanno svolto diverse funzioni, dall'autenticazione vocale ai contact center, dalla verifica dell'identità alle videoconferenze e altro ancora. Ma nessuno di questi risolve il problema dei deepfake", afferma Colman. Questi strumenti possono identificare le credenziali di una persona, come il dispositivo, la geolocalizzazione o il codice fiscale, ma non possono dimostrare che la persona che utilizza tali credenziali sia chi dichiara di essere. "È necessario uno strumento in grado di scansionare la voce o il volto di quella persona in tempo reale e di inviare questo segnale a tutti gli strumenti già in uso". La piattaforma di Reality Defender fa proprio questo e, essendo basata su API, "fornisce un segnale a tutti gli strumenti antifrode, le piattaforme per call center in tempo reale o le soluzioni di videoconferenza che tutti già utilizzano".

L'infrastruttura AWS semplifica la distribuzione per le aziende che già utilizzano ambienti AWS, il che significa che le organizzazioni possono integrare le funzionalità di rilevamento di Reality Defender nei flussi di lavoro esistenti. Molti clienti di Reality Defender sono "grandi consumatori di risorse di calcolo AWS", afferma Colman, e sono in grado di utilizzare il suo segnale tramiteAmazon Connect, una soluzione che è già parte integrante del loro stack tecnologico. "Scansioniamo tutto il traffico vocale in entrata e in uscita dai loro call center, cosa che sarebbe impossibile senza la nostra consolidata collaborazione con AWS", afferma. Questa collaborazione ha permesso alla startup di "scalare all'infinito e scansionare simultaneamente chiamate telefoniche in tempo reale, videoconferenze in tempo reale con integrazioni su Zoom e Teams, strumenti per la sicurezza del marchio, monitoraggio dei social media, scansione degli endpoint e molto altro ancora".

Scalabilità infinita e sicurezza vincente

Dato che Reality Defender gestisce comunicazioni in tempo reale estremamente delicate per clienti operanti in settori altamente regolamentati, "dobbiamo costantemente dimostrare loro che non solo noi, ma anche i nostri partner a monte e a valle, come AWS, li supportiamo al massimo livello di sicurezza", afferma Colman. Un rapido sguardo alla bacheca dei premi dell'azienda indicherebbe che questa approvazione è già stata ottenuta. Tra i riconoscimenti figurano l'inserimento nella JP Morgan Hall of Innovation, la partecipazione al programma Technology Pioneers 2025 del World Economic Forum e l'RSAC Innovation Sandbox: "gli Oscar della sicurezza informatica", conclude Colman.

Ancora una volta, la stretta collaborazione con AWS è stata fondamentale. "Ciò che abbiamo presentato all'RSAC, che ci ha portato alla vittoria nel 2024, si basava specificamente sulla nostra collaborazione con AWS”, afferma Colman. Reality Defender è inoltre in grado di soddisfare più facilmente i requisiti di sicurezza fondamentali dei suoi clienti. In termini generali, ciò significa consentire ai clienti di rilevare frodi e attività dannose in un ambiente AWS sicuro "su vasta scala". A un livello più specifico, ma non per questo meno importante, ha semplificato i processi di sicurezza per Reality Defender, come la creazione di report di valutazione del rischio dei fornitori, "cosa che non potremmo fare senza la collaborazione con AWS".

La scalabilità è diventata sempre più importante con l'espansione di Reality Defender negli ambienti di comunicazione aziendale in tempo reale, in grado di gestire grandi volumi di interazioni vocali e video simultanee. L'azienda si affida all'infrastruttura AWS perché, come afferma Colman, "è praticamente infinitamente scalabile". "Non abbiamo mai avuto problemi con un cliente che raggiungesse la capacità massima, perché ci auto-scaleremo con AWS al punto da poter rilevare il primo tipo di attacco DDoS basato sulla voce a un cliente Fortune 10". L'utilizzo delle soluzioni AWS, tra le altre cose, per addestrare i modelli di base, implementare la piattaforma SaaS e utilizzare database gestiti, "ci aiuta a scalare ai livelli necessari", aggiunge Lisle.

Accelerare la crescita attraverso la collaborazione

Il rapporto va ben oltre le comunicazioni sullo schermo. Il team di Reality Defender ha tratto vantaggio da incontri "fenomenali" presso la sede centrale di AWS a Seattle, afferma Colman, durante i quali hanno ricevuto il tipo di supporto che è fondamentale per molte startup tecnologiche in fase iniziale. "È sempre una sfida quando si ha una soluzione tecnologica complessa e si vuole riempire una diapositiva di statistiche. Questo non racconta una storia", spiega. "AWS ci ha aiutato a raccontare la nostra storia in un modo che sia davvero comprensibile".

Da allora, Reality Defender ha iniziato a condividere la propria storia in modo più ampio, tenendo presentazioni per gli stakeholder, incontrando gli investitori e rafforzando la notorietà del marchio in occasione dei principali eventi di settore. Queste opportunità "non sarebbero state possibili senza AWS", afferma Colman. "La collaborazione è stata fondamentale, non solo per NVIDIA GTC, ma anche in occasione di conferenze di alto livello come RSAC, Money 2020, Black Hat e Defcon, dove abbiamo beneficiato del supporto di AWS, che si tratti di stand, risorse di calcolo o demo congiunte, per clienti in comune".

Navigare nell'era della post-realtà

Reality Defender è nata da una chiara visione di dove si stessero dirigendo i deepfake in ambito aziendale e delle minacce che ciò avrebbe comportato. Prima del punto di svolta rappresentato da ChatGPT e prima che deepfake e IA generativa diventassero parole d'ordine, la startup aveva bisogno di un partner che condividesse la sua visione e potesse aiutarla a raggiungere il successo. "Il fatto che AWS e Amazon stessero già pensando all'IA ci ha aiutato ad accelerare notevolmente sia la nostra ricerca e sviluppo, sia il nostro ingresso sul mercato", afferma Colman. Il team di AWS "ci ha sempre supportato con le nostre richieste più insolite", aggiunge Lisle. "Come potete immaginare, facciamo cose all'avanguardia. C'è sempre stato un rappresentante disponibile a parlare con noi e a guidarci nell'implementazione di alcuni degli aspetti più esoterici del nostro lavoro".

Ora che l'esoterico è stato demistificato e il bizzarro è diventato la norma, Reality Defender guarda avanti per raggiungere nuovi clienti e mercati, come le organizzazioni non profit e i gruppi che pongono la democrazia al primo posto. "AWS è sempre stato un partner pronto ad aiutarci o a superare qualsiasi ostacolo pur di garantire il nostro continuo successo", afferma Lisle.

In un mondo in cui ciò che si vede e si sente non è più sufficiente, Reality Defender continua a impegnarsi per ripristinare la fiducia nelle comunicazioni digitali. Dalla protezione dei consumatori dalle frodi alla salvaguardia dell'integrità giornalistica e al supporto della sicurezza di governi e aziende, la missione dell'azienda si fonda su una domanda semplice ma sempre più urgente: cos'è reale? Grazie all'infrastruttura, alla scalabilità e al supporto di AWS, che consentono di rispondere a questa domanda in tempo reale, Reality Defender continuerà a perfezionare la propria piattaforma e strategia, ridefinendo il concetto di fiducia nell'era dell'intelligenza artificiale.