Sicherheitsverantwortliche teilen ihre Gedanken zu generativer KI

Danielle Ruderman (00:03):
Sicherheit und KI sind ein sehr weitgefasstes Thema, und wir haben festgestellt, dass sich unsere CISOs mit verschiedenen Bereichen befassen, darunter natürlich ChatGPT und große Sprachmodelle (LLMs). Ihre Teams wollen sie nutzen, ihre Programmierer wollen sie verwenden, also müssen wir darüber sprechen, welche Richtlinien und Verfahren Sie als CISO, der für die Absicherung Ihres Unternehmens verantwortlich ist, einsetzen sollten. Was halten Sie davon, dass Ihre Teams diese nutzen?

Ich denke, was interessant ist, ist, dass viele CISOs wollen, dass ihre Teams sie nutzen. Sie erkennen das Potenzial dieser Tools wirklich, also sprechen wir darüber, welche Art von Integritätsschutz Sie haben müssen und wie Sie ihn verantwortungsbewusst einsetzen können. Das sind sehr wichtige Diskussionen.

Aman Sirohi (00:34):
Ich denke, wir werden ziemlich schnell auf das KI-Risiko stoßen. Wie hoch ist diese Risikoexposition für Ihr Unternehmen, für Ihre Kunden?

In jedem Vertrag, den ich kenne, heißt es, dass Daten von Drittanbietern Ihre Umgebung nicht verlassen und an eine Quelle eines Drittanbieters übertragen werden dürfen. Egal, welches KI-Modell Sie verwenden möchten, diese Daten verlassen jetzt Ihre Umgebung, gehen an eine Quelle eines Drittanbieters und kommen zurück und geben Ihnen eine Antwort. Ich denke also, dass sich die rechtliche Sichtweise, die Art und Weise, wie das Risiko vom Kunden und vom Unternehmen übernommen wird, stark ändern wird. Ich denke, in diesem Bereich wird es viele Innovationen geben.

Danielle Ruderman (01:19):
Wir sehen auch einige wirklich ehrgeizige Überlegungen dazu, was die Zukunft mit KI bedeutet. Einige unserer CISOs sind der Meinung, dass dies eine großartige Gelegenheit für uns ist, zu skalieren und neue Fachkräfte im Sicherheitsbereich zu gewinnen.

Manchmal kann es eine Herausforderung sein, den Leuten das Wissen zu vermitteln, das sie benötigen, aber vielleicht sind diese Tools etwas, das einem jungen SOC-Analysten oder anderen Sicherheitsfachkräften helfen kann, sich wirklich einzubringen, die benötigten Tools zu erhalten und Fähigkeiten schneller zu entwickeln, was uns als Branche wirklich dabei helfen wird, mehr Sicherheitsexperten hervorzubringen.

Martin Holste (01:45):
Aus unternehmerischer Sicht müssen wir damit beginnen, generative KI einzusetzen, oder wir fallen im Wettbewerb zurück. Als CISO müssen Sie also einen Weg finden, Ihren Mitarbeitenden die Möglichkeit zu geben, produktiv zu sein, aber immer mit der Sicherheit im Blick.

Ich bin ein großer Befürworter des möglichst umfangreichen Einsatzes generativer KI im Standardgeschäft. Deshalb führen wir intern viele Mitarbeiterschulungen zur Verwendung verschiedener Arten von KI durch, damit wir produktiver arbeiten können. Daher verfügen wir auch über Kontrollen, um sicherzustellen, dass es unseren Mitarbeitenden unmöglich ist, versehentlich etwas zu kopieren und an einer falschen Stelle wieder einzufügen.

Danielle Ruderman (02:14):
Der dritte sehr interessante Aspekt ist die Aussicht, dass KI selbst ausgereiften Sicherheitsexperten helfen kann, ihre Aufgaben besser zu erledigen. Stellen Sie sich vor, Sie analysieren Protokolle und haben gelernt, in einer bestimmten Sprache zu programmieren, vielleicht in Python, aber jetzt müssen Sie Protokolle analysieren und lernen, wie man SQL-Abfragen schreibt. Die Barriere besteht darin, diese verschiedenen Sprachen lernen zu müssen, um sie zu überwinden. Sie wissen, wo sich die Daten befinden, aber Sie müssen lernen, wie Sie sie mit dem anderen Code abrufen können. Stellen Sie sich vor, Sie könnten der KI einfach sagen, was Sie tun möchten und welche Daten Sie für Ihre Analyse zusammenführen möchten, ohne all diese verschiedenen esoterischen Codierungsmodelle lernen zu müssen.

Es gibt eine Menge leistungsstarke Möglichkeiten, die uns helfen können, die Zeit bis zur Untersuchung zu verkürzen und allen, von unseren jungen Sicherheitsfachkräften bis hin zu unseren erfahrenen Sicherheitsexperten, zu helfen, ihre Arbeit schneller zu erledigen.

► Podcast anhören: Der Wert (und die Bedrohung) von generativer KI für Sicherheitsteams

Chris Rothe (02:58):
Die große Herausforderung im Bereich der Sicherheit besteht letztlich darin, dass wir nicht genug Leute haben. Deshalb ist die Arbeit, die AWS leistet, um die Plattform und die Services sicherer zu machen, Schritt für Schritt, so wichtig.

Im Allgemeinen wollen wir, dass jeder im Team von Red Canary generative KI so einsetzt, dass es für seine Rolle sinnvoll ist. Egal, ob Sie ein Verkäufer sind und gerade ein gutes Gespräch mit einem Kunden hatten und eine Folge-E-Mail zusammenstellen müssen, wir können das beschleunigen und die Qualität der Kommunikation verbessern. Denn letztendlich ist das besser für den Kunden und besser für Sie, weil Sie fünf Minuten statt vielleicht einer Stunde gebraucht haben.

So haben wir also sichergestellt, dass jeder es auf sichere Weise verwenden kann. Aber ich denke, wir sind noch am Anfang, wenn es darum geht, zu lernen, was die Fallstricke sind und welche Herausforderungen damit verbunden sind. Welche rechtlichen Dinge werden in den nächsten Jahren im Zusammenhang mit generativer KI zur Sprache kommen?