Justiz in der Cloud sichern: Predictice und AWS transformieren die juristische Arbeit

Die Einführung der generativen KI hat es Fachleuten in einer Vielzahl von Branchen schneller und einfacher gemacht, Wissen zu sammeln und dieses zu interpretieren. Für einige ist dazu lediglich eine grundlegende KI-Plattform erforderlich. Wenn die Informationen jedoch dicht und komplex sind und der Sektor strengen Sicherheits- und ethischen Rahmenbedingungen unterliegt, ist der Einsatz von KI – und ihre effektive Nutzung – komplizierter. Nirgendwo wird dies deutlicher als im Rechtsbereich.

Predictice wurde 2016 mit einer klaren Mission gegründet: „Aufgaben mit geringem Wert wie Dokumentenprüfungen, rechtliche Recherchen und Erstellung zu automatisieren, damit sich Fachleute auf ihr Fachwissen konzentrieren können“, sagt Vivien Douard, Content Marketing Officer bei Predictice. In Zusammenarbeit mit AWS hat das Unternehmen eine sichere und hochspezialisierte Lösung für seine Kunden entwickelt, die es den in der Branche tätigen Personen ermöglicht, die Vorteile der KI zu nutzen und „die juristische Arbeit schneller und effizienter zu erledigen“.

Die Partnerschaft mit AWS begann 2024, angetrieben durch den Bedarf an ultrasicheren Lösungen, schneller Datenbankintegration und Skalierbarkeit. Für Predictice war es wichtig, dass das KI-Modell und die Daten in Europa gehostet werden, um die Erwartungen des Kundenstamms in Frankreich und Luxemburg zu erfüllen und die Datenschutz- und Sicherheitsbestimmungen einzuhalten.

Predictice migrierte zu Anthropic Claude auf Amazon Bedrock und nutzte Amazon OpenSearch Service für seine Suchmaschine. Außerdem wurde Cohere Embed v4 auf Amazon SageMaker JumpStart eingeführt, um Einbettungen für die Dokumentenverarbeitung zu generieren, die indexiert und als Vektoren in Amazon OpenSearch Service gespeichert werden.

Predictice hatte bereits vor der Migration einen soliden Start und leistete Pionierarbeit beim Einsatz von Retrieval Augemented Generation (RAG) im juristischen Bereich. Im Jahr 2023 war es das erste Unternehmen in Frankreich, das eine RAG-KI-Plattform speziell für Juristen auf den Markt brachte. Durch die Zusammenarbeit mit AWS hat Predictice nun eine umfassende juristische Toolbox entwickelt, die die transformativen Auswirkungen von KI ermöglicht, die bereits in anderen Bereichen spürbar sind. Entscheidend ist, dass es auch die fortschrittlichen Sicherheits- und Spezialfunktionen bietet, die Juristen benötigen, um die Technologie bedenkenlos einsetzen und nutzen zu können.

Antrag abgelehnt: Die Herausforderungen der KI-Integration

Diejenigen, die im Rechtsbereich tätig sind, spielen eine entscheidende Rolle in der Gesellschaft, indem sie die Rechtsstaatlichkeit wahren, Rechte schützen, den Zugang zur Justiz ermöglichen und eine effektive Regierungsführung ermöglichen. Im Gegensatz zu anderen Fachleuten tätigt diese Gruppe – zu der Anwälte, Richter, Rechtsanwaltsfachangestellte und andere gehören – ihre Geschäfte jedoch nicht nur in ihrer Muttersprache, sondern auch in einer Zweitsprache. Der „Juristenjargon“ hat seine Wurzeln in Jahrhunderten der Rechtsgeschichte und beinhaltet lateinische Wörter, archaische Strukturen und Formulierungen, die in der Alltagssprache längst nicht mehr verwendet werden. Diese Art der Kommunikation gewährleistet Präzision und Formalität, bedeutet aber auch, dass Dokumente technisch und komplex sein können. „Der Rechtsbereich ist reich an Daten, was aber von herkömmlichen Tools nicht ausreichend genutzt wird“, sagt Douard.

In der Vergangenheit hat die Branche KI nur langsam eingeführt, was zum Teil auf die Abhängigkeit von Dokumentation und den Bedarf an hochgenauen Informationen zurückzuführen ist. Solche Entscheidungen basieren auf Präzedenzfällen, die in bestimmten Texten dargelegt wurden, und neue Regeln, Änderungen und Interpretationen werden ständig weiterentwickelt. Die Sicherheit der Infrastruktur ist ebenfalls von entscheidender Bedeutung. „Zu Beginn bestand die größte Herausforderung darin“, so Douard, „sie davon zu überzeugen, dass sie der KI vertrauen können.“

Diese Umgebung stellte eine doppelte Herausforderung dar. Juristen müssen eine riesige Menge an Unterlagen überwachen und darauf zugreifen können, und jede von ihnen verwendete Technologie muss in der Lage sein, branchenspezifische Daten zu interpretieren und überprüfbare Antworten auf Anfragen zu geben. Für die Kunden von Predictice müssen KI-Tools äußerst sicher und auf den frankophonen – und rechtssprachlichen! – Markt zugeschnitten sein.

Umwandlung rechtlicher Komplexität in verwertbare Informationen

Predictice hat sich mit AWS zusammengetan, um eine Lösung für diese Herausforderung zu entwickeln. Die Plattform bietet Zugriff auf eine Datenbank mit über 60 Millionen Dokumenten sowie eine Verbindung zu den internen Datenbanken der Benutzer. „Dies ermöglicht es uns, Juristen hochrelevante und zuverlässige Ergebnisdaten zur Verfügung zu stellen“, sagt Douard. Mit einer KI-gestützten Suchmaschine vereinfacht die Plattform wichtige Prozesse wie die Auffindung, Analyse, Zusammenfassung und Berichterstattung von Informationen, die alle über eine einzige Lösung zugänglich sind. Die Technologie ist auch einfach zu implementieren: „Predictice lässt sich direkt in die Tools integrieren, die Anwälte bereits verwenden“, sagt Douard. „Daher bieten wir unseren Kunden dank der nahtlosen Integration der KI direkt in ihre Arbeitsumgebung ein optimales Benutzererlebnis.“

Predictice bietet einen maßgeschneiderten Ansatz, um den Bedürfnissen der in der Region tätigen französischsprachigen Kunden gerecht zu werden. „Im Gegensatz zu generischer KI ist unser Assistent in Millionen von französischen Rechtsentscheidungen, Vorschriften und Tarifverträgen geschult“, sagt Douard. Entscheidend ist, dass die Plattform auch über ein Übersetzungstool verfügt, das es Rechtsteams ermöglicht, Informationen aus globalen Quellen korrekt zu interpretieren. „Sie können Dokumente wie Verträge, herunterladen und sie dann in etwa 10 Sekunden in 30 Sprachen übersetzen“, sagt Douard.

Eine „Komplettlösung“ für Sicherheit

Sicherheit war eine Priorität, als Predictice mit dem Aufbau seiner Plattform begann. „Das ist sehr wichtig, wir können keine Lecks unserer Kundendaten zulassen“, sagt Thibaud. Für den Einsatz einer Lösung in der EU musste das Unternehmen strenge Datenschutzgesetze und -protokolle wie die Allgemeine Datenschutz-Grundverordnung (DSGVO) einhalten. Für die Übertragung von Daten aus der Region sind in der Zwischenzeit besondere rechtliche Schutzmaßnahmen erforderlich. Die alte Infrastruktur von Predictice war in dieser Hinsicht einschränkend. Als Claude Sonnet 4 von Anthropic Anfang dieses Jahres auf Amazon Bedrock veröffentlicht wurde, nutzte das Unternehmen dies als perfekte Gelegenheit, um zu AWS zu migrieren. „Claude ist auf dem Vormarsch in Europa!“ so Thibaud.

Claude Sonnet 4 ist ein hybrides Denkmodell, das für die nächste Generation autonomer KI-Agenten entwickelt wurde. Durch die Verwendung von Amazon Bedrock war es laut Thibaud „sehr einfach, zwischen Modellen zu wechseln.“ Dadurch konnte das Unternehmen die Plattform verbessern und gleichzeitig die Sicherheit im Auge behalten. Wenn Juristen Dokumente hochladen, werden diese Daten auf der Plattform gespeichert. „Daher haben wir alle Daten verschoben und an AWS übertragen, aus Sicherheitsgründen und weil wir Daten im Ruhezustand verschlüsseln können“, erklärt Thibaud. Bedrock baut auf Amazon auf und bietet neben der Verschlüsselung von Daten während der Übertragung auch Sicherheitstools an, die Predictice dabei geholfen haben, das Kundenvertrauen zu stärken, was dem Unternehmen einen „Marketing- und Geschäftsvorteil“ verschafft hat.

Ein Schlüsselelement dabei war die Erlangung der ISO-27001-Zertifizierung (für Kundendaten, die auf AWS gehostet werden) durch die International Organization for Standardization (ISO), mit der nachgewiesen wurde, dass die Infrastruktur einem strengen – und weltweit anerkannten – Sicherheitsrahmen entspricht. „Die Zertifizierung ist äußerst komplex und erfordert eine Menge Dokumentation“, sagt Thibaud. Predictice bewältigte diese Komplexität mit Unterstützung von AWS, das eine „Komplettlösung“ und einen „Sicherheits-Hub“ anbot und es dem Unternehmen ermöglichte, „den Nachweis zu erbringen, dass alle Daten wirklich geschützt sind. Das hat mich beeindruckt“, fuhr er fort, „andernfalls hätten wir die Zertifizierung nicht erhalten.“

Sich ändernde Erwartungen schnell erfüllen

Mit dem Wachstum von Predictice stiegen auch die Datenanforderungen. Daher entschied sich das Unternehmen für Amazon OpenSearch Service, der es ermöglichte, große Datenmengen nahezu in Echtzeit zu speichern, zu durchsuchen und zu analysieren. „Die Migration verlief völlig reibungslos“, sagt Thibaud. Auch die Kosten waren überschaubar, da Predictice Werbeguthaben verwendete, das im Rahmen des AWS Migration Acceleration Program verfügbar war, um die Kosten für AWS-Lösungen auszugleichen. AWS „half uns bei der Migration und bot technischen Rat an“, fügt er hinzu. „Die Beziehung war wirklich positiv.“

Predictice hat die Aufgabe, eine riesige Datenbank zu verwalten, die sieben Millionen Rechtsprechungsdokumente mit jeweils 16.000 Token enthält. Um diese Datenbank zu vektorisieren, verwendet Predictice auch Cohere Embed v4 über Amazon SageMaker JumpStart, einen Machine-Learning-Hub, der die Bereitstellung von ML-Lösungen beschleunigen soll.

Die Migration zum Amazon OpenSearch Service hat die Betriebsgeschwindigkeit erheblich verbessert und die Komplexität von Predictice reduziert. „Bisher war die Verwaltung unseres Clusters nicht einfach“, erklärt Thibaud. Das Team musste „den Cluster alle zwei oder drei Wochen verifizieren und aktualisieren. Mit OpenSearch müssen wir nur auf eine Schaltfläche klicken.“ Die Verwendung von OpenSearch ermöglicht auch eine einfachere Skalierbarkeit. Ein „typisches Beispiel“, so Thibaud, „war heute Morgen. Wir wollten eine neue Datenbank integrieren, hatten aber keinen freien Speicherplatz zur Verfügung.“ Er fährt fort: „Früher mussten wir unter solchen Umständen eine neue Maschine und einen neuen Server kommandieren, warten, installieren. Das hat ungefähr zwei Tage gedauert.“ Jetzt geht das Hinzufügen von Speicherplatz auf OpenSearch „sehr schnell“ und reduziert das Zeitfenster auf „ein paar Minuten“.

Amazon Bedrock wird regelmäßig mit den neuesten KI-Modellen aktualisiert, was Predictice dabei geholfen hat, seine Lösung weiter zu verbessern. Derzeit wird das Unternehmen auf Claude Sonnet 4 migriert, um seinen legalen RAG-Suchservice zu verbessern.

Das Urteil lautet: KI-Erfolg.

Heute nutzen „über 5.000 Juristen Predictice täglich“, sagt Douard. Sie profitieren von „der generativen KI-Suchmaschine, die jede rechtliche Frage beantworten kann“. Durch die Entscheidung für AWS-Lösungen und die Integration einer Datenbank mit Millionen von Dokumenten kann das Unternehmen „die Qualität der Antworten, nach denen die Teams suchen, wirklich verbessern“.

Rund 60 bis 70 Prozent der Kunden von Predictice sind Anwaltskanzleien, von Einzelpersonen bis hin zu großen Organisationen. Das Startup verzeichnet jedoch eine wachsende Nachfrage nach seiner Lösung im Unternehmenssektor, insbesondere in der Versicherungsbranche. Die Erhöhung der Marktpräsenz spielt hier eine Rolle, und Predictice profitierte von der Gelegenheit, die AWS bot, sich auf der VivaTech, Europas größter Startup- und Technologieveranstaltung, vorzustellen.

Die anhaltende Beziehung von Predictice zu AWS unterstützt die Ambitionen des Unternehmens, seine Plattform weiterzuentwickeln, um den zukünftigen Bedürfnissen seiner Kunden gerecht zu werden. „Die Erwartungen an legale KI werden weiter steigen“, sagt Douard. Der Einsatz von AWS-Lösungen ermöglicht es dem Unternehmen, „erweiterte Funktionen für Audits vorzubereiten, wobei Transparenz, Leistung und Sicherheit oberste Priorität haben“. Mit den richtigen Lösungen, der richtigen Unterstützung und dem richtigen Skalierbarkeitspotenzial hat Predictice zweifelsfrei bewiesen, dass „wir im Gegensatz zu einigen generischen Tools auf dem Markt etwas bewirken können, um die Arbeit von Fachleuten im Rechtsbereich zu sichern“, schließt Douard.