Amazon Bedrock Guardrails unterstützt jetzt Automated Reasoning Checks (Vorschauversion)
Durch die Einführung von Automated-Reasoning-Prüfungen als Schutzmaßnahme in Amazon-Bedrock-Integritätsschutz ist AWS der erste und einzige große Cloud-Anbieter, der automatisiertes Schlussfolgern in seine generativen KI-Angebote integriert. Automatisierte-Reasoning-Prüfungen helfen, Halluzinationen zu entdecken und liefern einen überprüfbaren Beweis dafür, dass die Antwort des großen Sprachmodells (LLM) korrekt ist. Automated-Reasoning-Tools sind nicht zum Schätzen-oder Vorhersagen der Genauigkeit gedacht. Stattdessen verlassen sie sich auf solide mathematische Techniken, um die Einhaltung der von Experten erstellten Automated-Reasoning-Richtlinien endgültig zu bestätigen, wodurch folglich die Transparenz erhöht wird. Organisationen verwenden vermehrt LLMs, um die Benutzererfahrung zu verbessern und die Betriebskosten zu senken, da sie Dialogzugang auf relevante, kontextualisierte Informationen ermöglichen. LLMs sind jedoch anfällig für Halluzinationen. Aufgrund der Fähigkeit der LLMs, überzeugende Antworten zu geben, sind diese Halluzinationen oft schwer zu erkennen. Die Möglichkeit von Halluzinationen und die Unfähigkeit zu erklären, warum diese aufgetreten sind, verlangsamt die Einführung von generativer KI in Anwendungsfällen, in denen Genauigkeit entscheidend ist.
Mit Automated-Reasoning-Prüfungen können Domain-Experten problemlos Spezifikationen, sogenannte Automated-Reasoning-Richtlinien, erstellen, die Wissen aus Bereichen wie betriebliche Workflows und Personalrichtlinien bündeln. Benutzer von Amazon-Bedrock-Integritätsschutz können generierte Inhalte anhand einer Automated-Reasoning-Richtlinie validieren, um Ungenauigkeiten und nicht ausgesprochene Annahmen zu identifizieren und nachweislich zu erklären, warum Aussagen korrekt sind. Beispielsweise können Sie Automated-Reasoning-Prüfungen konfigurieren, um Antworten zu Themen zu überprüfen, die in komplexen Personalrichtlinien definiert sind (dazu zählen auch Einschränkungen in Bezug auf Anstellungsdauer, Arbeitsort und Leistung der Mitarbeiter) und mit entsprechenden Nachweisen zu belegen, warum eine Antwort korrekt ist.
Kontaktieren Sie Ihr AWS-Account-Team, um Zugriff auf Automated Reasoning Checks in Amazon Bedrock Guardrails in den AWS-Regionen USA Ost (Nord-Virginia) und USA West (Oregon) anzufordern. Weitere Informationen finden Sie unter Amazon Bedrock Guardrails und im News Blog