Reality Defender im Zeitalter von Deepfakes: Vertrauen schaffen mit AWS

Ein Politiker veröffentlicht in den sozialen Medien ein skandalöses Video der Opposition. Eine Nachrichten-Website veröffentlicht Fotos von Soldaten, die Kriegsverbrechen begehen. Eine Mutter erhält einen Anruf von ihrer Tochter, die sie in einer Notlage um Geld bittet. Ein Personalleiter führt ein Video-Vorstellungsgespräch mit einer Bewerberin für eine prestigeträchtige Stelle. Vor 10 Jahren hätten wir uns diese Videos angesehen, diese Bilder betrachtet, diese Stimmen gehört und an diesen Gesprächen teilgenommen, ohne deren Echtheit anzuzweifeln. Heute sieht das ganz anders aus.

Deepfakes dringen in die populären Medien, die Nachrichtenlandschaft, die Politik und die Wirtschaft ein. Wir haben gelernt, einige der verräterischen Anzeichen zu erkennen: Menschen mit sechs Fingern, Unstimmigkeiten im Gesicht, roboterhafte Stimmen. Doch da KI-Systeme immer ausgefeilter und kostengünstiger werden, sind die entsprechenden Anzeichen immer schwerer zu erkennen. Und die Grenze zwischen Realität und Fälschung verschwimmt zunehmend.

„Wir leben in einer Welt, die wir wohl als ‚Post-Realität‘ bezeichnen können“, sagt Alex Lisle, CTO bei Reality Defender. „Urplötzlich war die Gewissheit, dass das Gesehene und Gehörte auch der Wahrheit entspricht, zerstört. Und das ging erstaunlich schnell.“ Sich in dieser neuen Welt zurechtzufinden, ist nicht einfach. Auf menschlicher Ebene erfordert diese neue Situation eine vollständige Änderung der Denkweise. Während sich Deepfakes rasant weiterentwickelt haben, ist unsere Interpretation der Welt unverändert geblieben. „Wir halten immer noch an unseren Überzeugungen fest“, sagt Lisle. Darüber hinaus sind nicht nur neue Technologien erforderlich, sondern auch Unternehmen, die ihre Lösungen ständig weiterentwickeln und skalieren können, um mit der Entwicklung von KI-gestützten Deepfakes mitzuhalten. Reality Defender ist ein solches Unternehmen.

Vertrauen im KI-Zeitalter

Das 55-köpfige Startup aus New York ist „marktführend in der Deepfake-Erkennung“, sagt Gründer und CEO Ben Colman. Seine Lösung kann Deepfakes in Echtzeit-Videos und -Audios sowie in Bildern erkennen. So werden wichtige Kommunikationskanäle geschützt, ohne dass biometrische Daten von den Kunden benötigt werden. Für Reality Defender „war es nur logisch, in der Anfangsphase mit AWS zu beginnen“, sagt Colman. Mithilfe von AWS-Lösungen wie Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda und Amazon RDS hat Reality Defender eine Plattform entwickelt, die die Sicherheits- und Skalierbarkeitsanforderungen der Kunden erfüllen kann. Zu diesen Kunden zählen Finanzinstitute, Cybersicherheits-Firmen sowie Regierungsbehörden und Verteidigungsministerien.

Die Fortschritte in dieser Frühphase wurden durch Reality Defenders Teilnahme an den Programmen AWS Generative AI Accelerator and AWS Activate sowie durch die Nutzung von AWS-Guthaben beschleunigt. Seitdem haben die Unterstützung, die Infrastruktur und die Initiativen von AWS dem Startup geholfen, Innovationen zu entwickeln, zu skalieren sowie Auszeichnungen und Kunden zu gewinnen. In jüngerer Zeit hat es an verschiedenen Veranstaltungen rund um AWS teilgenommen und strebt zur Unterstützung seiner Markteinführungsstrategie eine Auflistung auf dem AWS Marketplace an.

Den Deepfake-Entwicklungen einen Schritt voraus

Deepfakes werden heute als Bedrohung allgemein anerkannt, doch noch vor wenigen Jahren war dieses Gebiet kaum erforscht und in der Öffentlichkeit kaum bekannt. „Wir haben das Unternehmen vor der US-Wahl 2020 als gemeinnütziges Forschungsprojekt gegründet“, erklärt Colman. „Wir sind mit einem Tool auf den Markt gegangen, in der Annahme, dass es Deepfakes im Zusammenhang mit der Wahl erkennen könnte. Sehr schnell wurde uns jedoch klar, dass es bei der Wahl 2020 überhaupt keine Deepfakes gab und wir dem Markt um einige Jahre voraus waren.“

Die Kluft zwischen Reality Defenders Vision und dem allgemeinen Bewusstsein für die Problematik gab dem Unternehmen Zeit, sein Produkt zu optimieren, setzte es aber auch unter Druck, mit begrenzten Mitteln effizient zu arbeiten. Der Zugang zu AWS-Guthaben über AWS Activate war von entscheidender Bedeutung. „Wir waren dem Markt um drei oder vier Jahre voraus“, so Colman. „Aber dank der Zusammenarbeit und dank des Guthabens sowie des Zugangs zu bestimmten Rechnern konnten wir alles frühzeitig umsetzen.“ So konnte das Unternehmen seine Lösung und sein Team rechtzeitig entwickeln bzw. aufbauen, um den Anforderungen und Herausforderungen des von ihm vorhergesehenen Deepfake-Zeitalters zu begegnen.

Inzwischen betreut Reality Defender einige der führenden Firmen in ihren jeweiligen Branchen, darunter Fachdienstleister wie Accenture und Booz Allen Hamilton, Großbanken wie JP Morgan sowie Regierungsbehörden in den USA und im Vereinigten Königreich.

Fälschungen in Echtzeit erkennen

Trotz des gestiegenen Bewusstseins für die Folgen von Deepfakes in diesen Sektoren ist ein echter kultureller Wandel bislang ausgeblieben. „In kurzer Zeit hat sich die Technologie, die Deepfakes ermöglicht, erheblich weiterentwickelt, während die Denkweise und die grundlegenden Überzeugungen der Content-Konsumenten sich nicht verändert haben“, sagt Lisle. „Die Idee hinter Reality Defender war die Schaffung einer Möglichkeit, nahezu in Echtzeit und allein anhand des Rohmaterials selbst sagen zu können: Ist das echt oder nicht? Plötzlich besteht ein grundlegender Bedarf, diese Frage beantworten zu können.“

Um diese Hürde zu überwinden, benötigen Unternehmen eine Lösung, die einfach zu implementieren ist und robuste Sicherheit gewährleistet. Da das Bewusstsein für die Bedrohung durch Deepfakes wächst und deren Einsatz zunimmt, muss diese Lösung außerdem skalierbar sein, damit Unternehmen Angriffe erkennen und verhindern können, ehe sie Schaden anrichten.

Reality Defender hat seine Plattform entwickelt, um diesen Anforderungen gerecht zu werden. „Es gibt zahlreiche Tools, die in der Vergangenheit viele Aufgaben u. a. in den Bereichen Sprachauthentifizierung, Kontaktzentren, Identitätsprüfung und Videokonferenzen übernommen haben. Doch keines davon löst das Problem der Deepfakes“, so Colman. Diese Tools können zwar die Anmeldeinformationen einer Person erkennen, wie etwa ihr Gerät, ihren Standort oder ihre Sozialversicherungsnummer. Aber sie können nicht nachweisen, dass die Person, die diese Anmeldeinformationen nutzt, tatsächlich die ist, für die sie sich ausgibt. „Man braucht ein Tool, das die Stimme oder das Gesicht dieser Person tatsächlich in Echtzeit scannen und dieses Signal dann in alle bereits genutzten Tools einspeisen kann.“ Die Plattform von Reality Defender tut genau das und sendet als API-orientierte Lösung „ein Signal an alle Betrugsbekämpfungs-Tools, Echtzeit-Callcenter-Plattformen oder Videokonferenzlösungen, die bereits überall im Einsatz sind.“

Die AWS-Infrastruktur vereinfacht die Bereitstellung für Unternehmen, die bereits AWS-Umgebungen betreiben, sodass Organisationen die Erkennungsfunktionen von Reality Defender in vorhandene Workflows integrieren können. Viele Kunden von Reality Defender „nutzen in großem Umfang AWS-Rechenleistung“, so Colman, und können das Signal über Amazon Connect nutzen, eine Lösung, die bereits zu ihrem Technologie-Stack gehört. „Wir scannen den gesamten ein- und ausgehenden Sprachverkehr ihrer Callcenter, was ohne unsere langjährige Beziehung zu AWS unmöglich wäre“, sagt er. Diese Beziehung hat es dem Startup ermöglicht, „unbegrenzt zu skalieren und gleichzeitig erfolgende Echtzeit-Telefonate und Echtzeit-Videokonferenzen zu scannen – u. a. mit Integrationen in Zoom und Teams, Tools zur Markensicherheit, Social-Media-Überwachung und Endpunkt-Scanning“.

Unendliche Skalierbarkeit und mehr Sicherheit

Da Reality Defender für Kunden in stark regulierten Branchen sehr sensible Echtzeit-Kommunikation überwacht, „müssen wir ihnen immer wieder beweisen, dass nicht nur wir, sondern auch unsere vor- und nachgelagerten Partner wie AWS sie auf höchstem Sicherheitsniveau unterstützen“, erklärt Colman. Ein kurzer Blick auf die Trophäensammlung des Unternehmens lässt vermuten, dass man sich das entsprechende Vertrauen bereits erarbeitet hat. Zu den Auszeichnungen gehören die Aufnahme in die JP Morgan Hall of Innovation, ein Platz unter den Technology Pioneers 2025 des Weltwirtschaftsforums und die RSAC Innovation Sandbox, „die Oscars der Cybersicherheit“, so Colman.

Auch hierbei war die enge Partnerschaft mit AWS entscheidend. „Was wir auf der RSAC präsentiert haben und was uns 2024 den Preis einbrachte, beruhte vor allem auf unserer Zusammenarbeit mit AWS“, sagt Colman. Außerdem kann Reality Defender die grundlegenden Sicherheitsanforderungen seiner Kunden viel einfacher erfüllen. Auf einer übergeordneten Ebene bedeutet dies, dass Kunden Betrugsversuche und böswillige Aktivitäten in einer sicheren AWS-Umgebung „in großem Maßstab“ erkennen können. Auf einer untergeordneten, aber nicht weniger wichtigen Ebene hat dies die Sicherheitsprozesse für Reality Defender vereinfacht, so etwa die Erstellung von Berichten zur Risikobewertung von Anbietern, „was ohne die Partnerschaft mit AWS nicht möglich wäre“.

Als Reality Defender in Echtzeit-Kommunikationsumgebungen für Unternehmen expandierte, die große Mengen simultaner Sprach- und Videointeraktionen verarbeiten, gewann das Thema Skalierbarkeit zunehmend an Bedeutung. Das Unternehmen setzt auf die AWS-Infrastruktur, weil sie „praktisch unbegrenzt skalierbar ist“, so Colman. „Wir hatten noch nie das Problem, dass ein Kunde an seine Kapazitätsgrenzen stieß, da wir mit AWS automatisch skalieren – und zwar so weit, dass wir bereits den ersten sprachbasierten DDoS-Angriff auf einen Fortune-10-Kunden erkennen konnten.“ Der Einsatz von AWS-Lösungen, unter anderem zum Trainieren der Grundmodelle, zum Bereitstellen der SaaS-Plattform und zur Nutzung verwalteter Datenbanken, „hilft uns, auf das von uns benötigte Niveau zu skalieren“, fügt Lisle hinzu.

Beschleunigtes Wachstum durch enge Zusammenarbeit

Die Beziehung geht über die Kommunikation am Bildschirm hinaus. Laut Colman habe das Team von Reality Defender von „phänomenalen“ Treffen vor Ort in der AWS-Zentrale in Seattle profitiert. Dabei habe man die Art Unterstützung erhalten, die für viele junge Tech-Startups entscheidend ist. „Es ist immer eine Herausforderung, wenn man eine komplexe technische Lösung hat und Folien mit Statistiken füllen möchte. Das allein erzählt noch keine Geschichte“, erklärt er. „AWS hat uns geholfen, die Geschichte auf eine verständliche Weise zu erzählen.“

Seitdem hat Reality Defender seine Geschichte einem breiteren Publikum zugänglich gemacht. Man hat Präsentationen vor Stakeholdern gehalten, sich mit Investoren getroffen und bei großen Branchenveranstaltungen den eigenen Bekanntheitsgrad gesteigert. Diese Chancen „hätten wir ohne AWS nicht gehabt“, sagt Colman. „Die Zusammenarbeit war von zentraler Bedeutung, nicht nur für die NVIDIA GTC, sondern auch bei wichtigen Konferenzen wie RSAC, Money 2020, Black Hat und Defcon. Dort haben wir von der Unterstützung durch AWS profitiert – sei es bei Ständen, Rechenleistung oder durch gemeinschaftliche Demos für gemeinsame Kunden.“

Das Zeitalter der Post-Realität bewältigen

Reality Defender wurde mit einer klaren Vorstellung davon gegründet, wohin sich Deepfakes in Unternehmen entwickeln und welche Bedrohungen damit einhergehen würden. Vor dem Durchbruch von ChatGPT und bevor Deepfakes und generative KI zu Schlagwörtern wurden, suchte das Startup nach einem Partner, der seine Vision teilte und ihm zum Erfolg verhelfen konnte. „Dass AWS und Amazon sich schon damals mit KI befassten, hat uns wirklich geholfen, sowohl unsere Forschung und Entwicklung als auch unsere Markteinführung erheblich zu beschleunigen“, sagt Colman. Das Team von AWS „hat uns auch bei skurrilen Anfragen immer geholfen“, fügt Lisle hinzu. „Wie man sich vorstellen kann, beschäftigen wir uns mit hochmoderner Technik. Es gab immer einen Ansprechpartner, der gerne mit uns gesprochen und uns bei einigen der eher esoterischen Aspekte unserer Arbeit beraten hat.“

Nun, da das Esoterische entmystifiziert und das Bizarre zur Normalität geworden ist, blickt Reality Defender nach vorn, um neue Kunden und Märkte zu erschließen, wie etwa gemeinnützige Organisationen und Gruppierungen, die die Demokratie stärken wollen. „AWS hat uns von Anfang an zur Seite gestanden und alle Hindernisse aus dem Weg geräumt, um unseren anhaltenden Erfolg zu gewährleisten“, sagt Lisle.

In einer Welt, in der man den audiovisuellen Inhalten nicht mehr blind vertrauen kann, setzt sich Reality Defender weiterhin dafür ein, das Vertrauen in die digitale Kommunikation wiederherzustellen. Vom Schutz der Verbraucher vor Betrug über die Wahrung journalistischer Integrität bis hin zur Unterstützung der Sicherheit von Behörden und Unternehmen – im Zentrum der Mission des Unternehmens steht eine einfache, aber zunehmend dringliche Frage: Was ist echt? Während AWS die Infrastruktur, Skalierbarkeit und Unterstützung bereitstellt, um diese Frage in Echtzeit zu beantworten, wird Reality Defender seine Plattform und Strategie weiter optimieren und das Vertrauen im KI-Zeitalter neu definieren.