Reality Defender frente a la era de los deepfakes: generar confianza con AWS

Un político publica en redes sociales un video escandaloso sobre la oposición. Un sitio de noticias publica fotografías de tropas cometiendo crímenes de guerra. Una madre recibe una llamada de su hija pidiéndole dinero por una emergencia. Un ejecutivo de RR. HH. realiza una entrevista por video a un candidato para un puesto de alto perfil. Hace una década, habríamos visto esos videos, esas imágenes, habríamos escuchado esas voces y participado en esas llamadas sin cuestionar su veracidad. Hoy, la situación es muy diferente.

Los deepfakes se han infiltrado en los medios populares, el entorno informativo, la esfera política y las empresas. Hemos aprendido a reconocer algunas de las primeras señales reveladoras: personas con seis dedos, inconsistencias faciales o tonos robóticos. Sin embargo, a medida que los sistemas de IA se vuelven más sofisticados y baratos de utilizar, estas señales son cada vez más difíciles de detectar y la línea que separa la realidad del fraude se vuelve cada vez más difusa.

“Vivimos en lo que probablemente describiríamos como un mundo posrealidad”, afirma Alex Lisle, director de Tecnología de Reality Defender. “De repente, algo que dabas por sentado, que ver y oír bastaban para creer, dejó de ser así. Y eso ocurrió con una rapidez sorprendente”. Navegar por este nuevo mundo resulta problemático. A nivel humano, exige un cambio completo de mentalidad. Los deepfakes pueden haber evolucionado rápidamente, pero nuestra forma de interpretar el mundo no lo ha hecho. “Seguimos creyendo lo que creemos”, explica Lisle. Además, se necesitan no solo nuevas tecnologías, sino también empresas capaces de innovar constantemente y escalar sus soluciones para seguir el ritmo del desarrollo de deepfakes realizados con IA. Reality Defender es una de esas empresas.

Confianza en la era de la IA

Con sede en Nueva York, esta startup de 55 personas está “liderando el mercado de detección de deepfakes”, afirma su fundador y director ejecutivo, Ben Colman. Su solución puede detectar deepfakes en video y voz en tiempo real, así como en imágenes, lo que protege canales de comunicación críticos sin requerir datos biométricos de sus clientes. Para Reality Defender, “era natural empezar con AWS en nuestros primeros años”, afirma Colman. Mediante soluciones de AWS como Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda, Amazon RDS, Reality Defender creó una plataforma capaz de satisfacer requisitos de seguridad y escalabilidad de clientes que incluyen instituciones financieras, empresas de ciberseguridad, organismos gubernamentales y departamentos de defensa.

El progreso durante esos primeros años se aceleró gracias a la participación de Reality Defender en los programas Acelerador de IA generativa de AWS y AWS Activate, así como al uso de créditos de AWS. Desde entonces, el soporte, la infraestructura y las iniciativas de AWS han ayudado a la startup a innovar, escalar y conseguir premios y clientes. Más recientemente, ha participado en diversos eventos relacionados con AWS y prevé incorporarse a AWS Marketplace para respaldar su estrategia de comercialización.

Por delante de la curva de los deepfakes

Hoy en día los deepfakes son una amenaza mucho más reconocida, pero hace apenas unos años este ámbito estaba poco explorado y recibía poca atención. “Fundamos la empresa como un proyecto de investigación sin ánimo de lucro antes de las elecciones de 2020”, explica Colman. “Salimos al mercado con una herramienta pensada para detectar deepfakes relacionados con las elecciones. Lo que descubrimos muy rápido fue que no había deepfakes en las elecciones de 2020 y que estábamos varios años por delante del mercado”.

La distancia entre la visión de Reality Defender y la conciencia general del mercado dio a la empresa tiempo para perfeccionar su producto, pero también generó presión para construir de manera eficiente con recursos limitados. El acceso a créditos de AWS a través de AWS Activate fue fundamental. “Íbamos tres o cuatro años por delante del mercado”, afirma Colman. “Pero gracias a la colaboración, a los créditos y al acceso a máquinas específicas, pudimos hacerlo desde el principio”; de esta forma, crearon su solución y formaron su equipo a tiempo para responder a las necesidades y desafíos de la era de los deepfakes que habían anticipado.

Como resultado, Reality Defender presta servicio actualmente a algunas de las organizaciones más destacadas de sus respectivos sectores, incluidas empresas de servicios profesionales como Accenture y Booz Allen Hamilton, bancos de primer nivel como JP Morgan, así como organismos gubernamentales de EE. UU. y Reino Unido.

Detección de engaño en tiempo real

A pesar de la creciente concienciación sobre el impacto de los deepfakes en estos sectores, todavía no se ha producido un verdadero cambio cultural. “En muy poco tiempo, la tecnología que permite crear deepfakes ha evolucionado significativamente, pero la mentalidad y las creencias fundamentales de quienes consumen contenido no lo han hecho”, afirma Lisle. “La idea detrás de Reality Defender era poder responder casi en tiempo real, basándonos únicamente en el propio contenido sin procesar, a la pregunta de si esto es real o no. De repente existe una necesidad fundamental de poder responder a esa pregunta”.

Para superar esta barrera, las organizaciones necesitan una solución fácil de implementar y que garantice una seguridad sólida. A medida que aumenta la concienciación sobre la amenaza de los deepfakes y se multiplican los casos de uso de esta tecnología, la solución también debe ser escalable para permitir que las empresas identifiquen y detengan ataques antes de que causen daños.

Reality Defender desarrolló su plataforma para responder a estos requisitos. “Existe una gran variedad de herramientas que históricamente han cubierto ámbitos como autenticación por voz, centros de contacto, verificación de identidad, videoconferencias y mucho más. Pero ninguna de ellas resuelve el problema de los deepfakes”, expone Colman. Estas herramientas pueden identificar credenciales de una persona, como su dispositivo, geolocalización o número de la seguridad social, pero no pueden demostrar que quien utiliza esas credenciales es realmente quien dice ser. “Se necesita una herramienta capaz de analizar en tiempo real la voz o el rostro de esa persona y enviar esa señal a todas las herramientas que ya utiliza”. La plataforma de Reality Defender hace precisamente eso y, al adoptar un enfoque API-first, “proporciona una señal a todas las herramientas de prevención de fraude, plataformas de centros de contacto en tiempo real o soluciones de videoconferencia que ya utiliza todo el mundo”.

La infraestructura de AWS simplifica la implementación para empresas que ya operan en entornos de AWS, lo que permite incorporar las capacidades de detección de Reality Defender a flujos de trabajo existentes. Muchos de los clientes de Reality Defender son “grandes consumidores de capacidad de computación de AWS”, afirma Colman, y pueden consumir esa señal a través de Amazon Connect, una solución que ya forma parte de su pila tecnológica. “Estamos analizando todo el tráfico de voz que entra y sale de sus centros de contacto, algo que sería imposible sin nuestra larga relación con AWS”, explica. Esta relación ha permitido a la startup “escalar sin límites y analizar llamadas telefónicas simultáneas en tiempo real, videoconferencias en tiempo real con integraciones en Zoom y Teams, herramientas de protección de marca, supervisión de redes sociales, análisis de terminales y mucho más”.

Escalabilidad ilimitada y logros en seguridad

Dado que Reality Defender participa en comunicaciones en tiempo real extremadamente delicadas para clientes de sectores altamente regulados, “tenemos que demostrar constantemente que no solo nosotros, sino también nuestros socios ascendentes y descendentes, como AWS, les ofrecemos el máximo nivel de seguridad”, afirma Colman. Un vistazo rápido al palmarés de la empresa sugiere que ya han obtenido esa aprobación. Entre sus reconocimientos se encuentran su incorporación al JP Morgan Hall of Innovation, su inclusión en Technology Pioneers 2025 del Foro Económico Mundial y el premio RSAC Innovation Sandbox, “los Óscar de la ciberseguridad”, según Colman.

Una vez más, la estrecha colaboración con AWS ha sido fundamental. “Lo que presentamos en RSAC y que nos llevó a ganar en 2024 se basaba específicamente en nuestra colaboración con AWS”, afirma Colman. Reality Defender también puede satisfacer con mayor facilidad los requisitos fundamentales de seguridad de sus clientes. A gran escala, esto significa permitir que los clientes detecten fraude y actividad maliciosa en un entorno seguro de AWS “a escala masiva”. A un nivel más específico, aunque igualmente crítico, también ha facilitado procesos de seguridad de Reality Defender, como la elaboración de informes de evaluación de riesgos de proveedores, “algo que no podríamos hacer sin la colaboración de AWS”.

La escalabilidad se volvió cada vez más importante a medida que Reality Defender se expandía a entornos empresariales de comunicación en tiempo real que gestionan grandes volúmenes de interacciones simultáneas de voz y video. La empresa confía en la infraestructura de AWS porque “es prácticamente infinitamente escalable”, explica Colman. “Nunca hemos tenido problemas porque un cliente alcanzara su límite de capacidad, ya que escalamos automáticamente con AWS hasta el punto de haber podido detectar el primer tipo de ataque DDoS basado en voz contra un cliente de Fortune 10”. El uso de soluciones de AWS para, entre muchas otras cosas, entrenar modelos fundacionales, implementar su plataforma SaaS y utilizar bases de datos administradas “nos ayuda a escalar hasta los niveles que necesitamos alcanzar”, agrega Lisle.

Acelerar el crecimiento mediante la colaboración

La relación va mucho más allá de las comunicaciones en pantalla. El equipo de Reality Defender se ha beneficiado de reuniones presenciales “extraordinarias” en la sede central de AWS en Seattle, afirma Colman, donde recibieron el tipo de apoyo que resulta crucial para muchas startups tecnológicas en etapas iniciales. “Siempre es un reto cuando tienes una solución de tecnología profunda y quieres llenar una diapositiva de estadísticas. Eso no cuenta una historia”, explica. “AWS nos ayudó realmente a contar nuestra historia de una forma fácil de comprender”.

Desde entonces, Reality Defender ha dado a conocer su historia a un público más amplio, realizando presentaciones para partes interesadas, reuniéndose con inversores y reforzando el reconocimiento de su marca en importantes eventos del sector. Estas oportunidades “no habrían sido posibles sin AWS”, puntualiza Colman. “La colaboración ha sido clave, no solo para NVIDIA GTC, sino también para conferencias de primer nivel como RSAC, Money 2020, Black Hat y Defcon, donde nos hemos beneficiado del apoyo de AWS, ya sea mediante stands, capacidad de computación o demostraciones conjuntas para clientes compartidos”.

Navegar por la era posterior a la realidad

Reality Defender se fundó a partir de una visión clara sobre la dirección que tomarían los deepfakes en el ámbito empresarial y las amenazas que ello implicaría. Antes del punto de inflexión marcado por ChatGPT y antes de que los deepfakes y la IA generativa se convirtieran en palabras de moda, la startup necesitaba un socio que compartiera esa visión y pudiera ayudarla a alcanzar el éxito. “El hecho de que AWS y Amazon ya estuvieran pensando en IA en aquel momento nos ayudó enormemente a acelerar tanto nuestras actividades de I+D como nuestra estrategia de comercialización”, afirma Colman. El equipo de AWS “siempre nos ayudó con nuestras peticiones más extrañas”, agrega Lisle. “Como puede imaginar, hacemos cosas de vanguardia. Siempre ha habido un representante dispuesto a hablar con nosotros y guiarnos en algunos de los aspectos más esotéricos de nuestro trabajo”.

Ahora que lo esotérico se ha desmitificado y lo extraño se ha convertido en algo habitual, Reality Defender se prepara para llegar a nuevos clientes y mercados, como organizaciones sin ánimo de lucro y grupos centrados en la defensa de la democracia. “AWS siempre ha sido un socio dispuesto a ayudarnos o a mover montañas para garantizar que sigamos teniendo éxito”, afirma Lisle.

En un mundo en el que ya no se puede dar por hecho que lo que vemos y oímos es auténtico, Reality Defender mantiene su compromiso de restaurar la confianza en las comunicaciones digitales. Desde la protección de consumidores frente al fraude hasta la preservación de la integridad periodística y el apoyo a la seguridad gubernamental y empresarial, la misión de la compañía se basa en una pregunta simple, pero cada vez más urgente: ¿qué es real? Con AWS proporcionando infraestructura, escalabilidad y apoyo para ayudar a responder esa pregunta en tiempo real, Reality Defender seguirá perfeccionando su plataforma y su estrategia para redefinir la confianza en la era de la IA.