Reality Defender contra a era do deepfake: construindo confiança com a AWS

Um político publica um vídeo escandaloso sobre a oposição nas redes sociais. Um site de notícias divulga fotos de soldados cometendo crimes de guerra. Uma mãe recebe uma ligação da filha pedindo dinheiro para uma emergência. Um executivo de RH conduz uma entrevista em vídeo com um candidato a um trabalho de alto nível. Há uma década, assistíamos a esses vídeos, víamos essas imagens, ouvíamos essas vozes e participávamos dessas ligações sem questionar sua veracidade. Hoje, a história é bem diferente.

Os deepfakes se infiltraram na mídia popular, no cenário jornalístico, nas esferas políticas e no mundo empresarial. Já aprendemos a reconhecer alguns dos primeiros sinais reveladores: pessoas com seis dedos, inconsistências faciais, tons de voz robóticos. No entanto, à medida que os sistemas de IA se tornam mais sofisticados e acessíveis, esses sinais estão ficando mais difíceis de detectar, e a linha entre a realidade e a fraude está cada vez mais tênue.

“Vivemos no que provavelmente definiríamos como um mundo pós-realidade”, afirma Alex Lisle, diretor de tecnologia da Reality Defender. “De repente, algo que você considerava certo — que ver e ouvir era acreditar —, de repente, deixou de ser. E isso aconteceu com uma rapidez impressionante.” Navegar nesse novo mundo é problemático. No plano humano, isso exige uma mudança completa de mentalidade. Os deepfakes podem ter evoluído rapidamente, mas a maneira como interpretamos o mundo não. “Ainda acreditamos no que acreditamos”, diz Lisle. Além disso, é necessário não apenas novas tecnologias, mas empresas capazes de inovar constantemente e escalar suas soluções para acompanhar o desenvolvimento de deepfakes baseados em IA. A Reality Defender é uma dessas empresas.

Confiança na era da IA

Sediada em Nova York, a startup de 55 funcionários está “liderando o mercado em detecção de deepfakes”, afirma o fundador e CEO Ben Colman. Sua solução é capaz de detectar deepfakes em vídeos e áudios em tempo real, bem como em imagens, protegendo canais de comunicação críticos sem exigir dados biométricos de seus clientes. Para a Reality Defender, “foi natural para nós começarmos com a AWS nos nossos primeiros dias”, diz Colman. Utilizando soluções da AWS, como Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda, Amazon RDS, a Reality Defender desenvolveu uma plataforma capaz de atender aos requisitos de segurança e escalabilidade de seus clientes, entre os quais se incluem instituições financeiras, empresas de segurança cibernética, órgãos governamentais e departamentos de defesa.

O progresso naqueles primeiros dias foi impulsionado pela participação da Reality Defender nos programas Acelerador de IA generativa da AWS e AWS Activate, bem como pela utilização de Créditos da AWS. Desde então, o suporte, a infraestrutura e as iniciativas da AWS têm ajudado a startup a inovar, expandir e conquistar prêmios e clientes. Mais recentemente, a empresa participou de diversos eventos relacionados à AWS e está se preparando para entrar no AWS Marketplace, a fim de apoiar sua estratégia de entrada no mercado.

À frente da curva do deepfake

Hoje em dia, os deepfakes são uma ameaça amplamente reconhecida, mas há apenas alguns anos esse campo era pouco explorado e pouco divulgado. “Começamos a empresa como um projeto de pesquisa sem fins lucrativos antes das eleições de 2020”, explica Colman. “Lançamos no mercado uma ferramenta com a ideia de que ela fosse capaz de detectar deepfakes nas eleições. O que percebemos rapidamente foi que não havia deepfakes nas eleições de 2020, e estávamos alguns anos à frente do mercado.”

A diferença entre a visão da Reality Defender e a percepção geral do mercado deu à empresa tempo para aperfeiçoar seu produto, mas também gerou pressão para desenvolver o projeto de forma eficiente com recursos limitados. O acesso aos créditos da AWS por meio do AWS Activate foi fundamental. “Estávamos muito à frente do mercado, por três ou quatro anos”, diz Colman. “Mas, graças à colaboração, aos créditos e ao acesso a máquinas específicas, conseguimos fazer isso mais cedo,”—desenvolvendo sua solução e sua equipe a tempo de atender às necessidades e aos desafios da era do deepfake que havia previsto.

Assim, a Reality Defender presta atualmente serviços a algumas das principais empresas em seus respectivos setores, incluindo firmas de serviços profissionais como a Accenture e a Booz Allen Hamilton, bancos de primeira linha como o JP Morgan, bem como órgãos governamentais nos Estados Unidos e no Reino Unido.

Detectar fraudes em tempo real

Apesar da maior conscientização sobre o impacto dos deepfakes nesses setores, ainda não houve uma verdadeira mudança cultural. “Em um curto espaço de tempo, a tecnologia que possibilita os deepfakes evoluiu significativamente, mas a mentalidade e as crenças fundamentais daqueles que consomem conteúdo não”, diz Lisle. “A ideia do Reality Defender era uma forma de poder dizer quase em tempo real, a partir apenas do artefato bruto em si, se isso é real ou não. De repente, surgiu uma necessidade fundamental de ser capaz de responder a essa pergunta.”

Para superar esse obstáculo, as organizações precisam de uma solução que seja simples na sua implantação e garanta uma segurança robusta. À medida que cresce a conscientização sobre a ameaça dos deepfakes e aumentam os casos de seu uso, essa solução também deve ser escalável, permitindo que as empresas identifiquem e previnam ataques antes que causem danos.

A Reality Defender desenvolveu sua plataforma para atender a essas necessidades. “Há uma série de ferramentas que, historicamente, têm feito muitas coisas nas áreas de autenticação de voz, centrais de contatos, verificação de identidade, videoconferência e muito mais. Mas nenhuma delas resolve o problema dos deepfakes”, diz Colman. Essas ferramentas podem ser capazes de identificar as credenciais de alguém, como seu dispositivo, geolocalização ou número de segurança social, mas não conseguem provar que a pessoa que usa essas credenciais é quem diz ser. “Você precisa de uma ferramenta que possa realmente realizar a verificação da voz ou do rosto dessa pessoa em tempo real e, em seguida, enviar esse sinal para todas as ferramentas que você já usa.” A plataforma da Reality Defender faz exatamente isso e, por ser API-first, “fornece um sinal para todas as ferramentas antifraude, plataformas de call center em tempo real ou soluções de videoconferência que todos já usam.”

A infraestrutura da AWS simplifica a implantação para empresas que já operam em ambientes da AWS, o que significa que as organizações podem incorporar os recursos de detecção do Reality Defender aos fluxos de trabalho existentes. Muitos dos clientes do Reality Defender são “grandes consumidores de recursos de computação da AWS”, afirma Colman, e conseguem utilizar seus sinais por meio do Amazon Connect, uma solução que já faz parte de sua pilha de tecnologia. “Estamos realizando a verificação de todo o tráfego de voz que entra e sai de suas centrais de atendimento, o que seria impossível sem nosso relacionamento de longa data com a AWS”, diz ele. Esse relacionamento permitiu que a startup “escalasse infinitamente e realizasse a verificação de chamadas telefônicas simultâneas em tempo real, videoconferências em tempo real com integrações no Zoom e no Teams, ferramentas de segurança de marca, monitoramento de mídias sociais, verificação de endpoints e muito mais.”

Escalabilidade infinita e vantagens em termos de segurança

Como a Reality Defender tem um engajamento forte em comunicações em tempo real de natureza muito delicada para clientes em setores altamente regulamentados, “temos que provar constantemente a eles que não só nós, mas também nossos parceiros a montante ou a jusante, como a AWS, os apoiamos com o mais alto nível de segurança”, afirma Colman. Uma rápida olhada na vitrine de prêmios da empresa indicaria que eles já conquistaram essa aprovação. Entre suas honrarias estão a inclusão no JP Morgan Hall of Innovation, uma vaga no Technology Pioneers 2025 do Fórum Econômico Mundial e o RSAC Innovation Sandbox: “o Oscar da segurança cibernética”, diz Colman.

Mais uma vez, a estreita parceria com a AWS tem sido fundamental. “O que apresentamos na RSAC, o que nos levou à vitória em 2024, baseou-se especificamente em nossa colaboração com a AWS”, afirma Colman. A Reality Defender também consegue atender com mais facilidade aos requisitos básicos de segurança de seus clientes. Em termos gerais, isso significa permitir que os clientes detectem fraudes e atividades maliciosas em um ambiente seguro da AWS “em grande escala”. Em um nível menor, mas não menos crítico, isso facilitou os processos de segurança para a Reality Defender, como a criação de relatórios de avaliação de risco de fornecedores, “o que não poderíamos fazer sem a parceria com a AWS”.

A escalabilidade tornou-se cada vez mais importante à medida que a Reality Defender se expandiu para ambientes de comunicação empresarial em tempo real, lidando com grandes volumes de interações simultâneas de voz e vídeo. A empresa confia na infraestrutura da AWS porque, “ela é efetivamente infinitamente escalável”, afirma Colman. “Nunca tivemos um problema com um cliente atingindo a capacidade máxima porque fazemos o autoescalonamento com a AWS a ponto de já termos conseguido detectar o primeiro tipo de ataque DDoS baseado em voz em um cliente da Fortune 10.” Usar as soluções da AWS para, entre muitas outras coisas, treinar seus modelos de base, realizar a implantação de sua plataforma SaaS e usar bancos de dados gerenciados “nos ajuda a escalar para os níveis que precisamos atingir”, acrescenta Lisle.

Acelerando o crescimento por meio da colaboração

A relação vai além das comunicações na tela. A equipe da Reality Defender se beneficiou de reuniões presenciais “fenomenais” na sede da AWS em Seattle, diz Colman, durante as quais receberam o tipo de apoio que é crucial para muitas startups de tecnologia em fase inicial. “É sempre um desafio quando você tem uma solução de tecnologia avançada e quer preencher um slide com estatísticas. Isso não conta uma história”, explica ele. “A AWS nos ajudou a realmente contar a história de uma forma que seja compreensível.”

Desde então, a Reality Defender vem divulgando sua história de forma mais ampla, realizando apresentações para partes interessadas, reunindo-se com investidores e construindo o reconhecimento da marca em grandes eventos do setor. Essas oportunidades “não teriam sido possíveis sem a AWS”, afirma Colman. “A colaboração tem sido fundamental, não apenas para a NVIDIA GTC, mas também em conferências de primeira linha como RSAC, Money 2020, Black Hat e Defcon, onde nos beneficiamos do AWS Support, seja em estandes, recursos de computação ou demonstrações conjuntas, para clientes em comum.”

Navegando pela era pós-realidade

A Reality Defender foi fundada com uma visão clara sobre o rumo que os deepfakes tomariam no mundo corporativo e as ameaças que isso acarretaria. Antes do ponto de inflexão do ChatGPT e antes que deepfakes e IA generativa se tornassem palavras-chave, a startup precisava de um parceiro que compartilhasse sua visão e pudesse ajudá-la a alcançar o sucesso. “O fato de a AWS e a Amazon já estarem pensando em IA naquela época realmente nos ajudou a acelerar drasticamente tanto nossa P&D quanto nossa entrada no mercado”, diz Colman. A equipe da AWS “sempre atendeu às nossas solicitações mais inusitadas”, acrescenta Lisle. “Como você pode imaginar, fazemos coisas que são de ponta. Sempre houve um representante que ficou feliz em conversar conosco e nos orientar em alguns dos aspectos mais esotéricos do que fazemos.”

Agora que o esotérico foi desmistificado e o bizarro se tornou a norma, a Reality Defender está de olho no futuro para alcançar novos clientes e mercados, como organizações sem fins lucrativos e grupos que priorizam a democracia. “A AWS sempre esteve ao nosso lado para nos ajudar ou superar quaisquer obstáculos necessários para garantir nosso sucesso contínuo”, afirma Lisle.

Em um mundo onde o que vemos e ouvimos não pode mais ser aceito sem questionamentos, a Reality Defender mantém seu compromisso de restaurar a confiança nas comunicações digitais. Desde a proteção dos consumidores contra fraudes até a preservação da integridade jornalística e o apoio à segurança governamental e empresarial, a missão da empresa está enraizada em uma questão simples, mas cada vez mais urgente: o que é real? Com a AWS fornecendo a infraestrutura, a escalabilidade e o suporte para ajudar a responder a essa pergunta em tempo real, a Reality Defender continuará a aprimorar sua plataforma e estratégia e a redefinir a confiança para a era da IA.