Des responsables de la sécurité partagent leurs réflexions sur l’IA générative

Danielle Ruderman (00:03) :
La sécurité et l’IA constituent un sujet très vaste, et nous avons constaté que nos RSSI étaient concernés par différents domaines de grands modèles de langage, dont évidemment ChatGPT. Leurs équipes veulent les utiliser, leurs codeurs veulent les utiliser. Nous devons donc discuter, en tant que RSSI chargé de sécuriser votre organisation, des politiques et procédures que vous mettez en place. Que pensez-vous de l’utilisation de cette technologie par vos équipes ?

Je pense que ce qui est intéressant, c’est que de nombreux RSSI souhaitent que leurs équipes l’utilisent. Ils voient vraiment le potentiel de ces outils. Nous discutons donc du type de barrières de protection dont vous avez besoin et de la manière de les utiliser de manière responsable. Ce sont là des discussions très importantes.

Aman Sirohi (00:34) :
Je pense que nous allons nous heurter assez rapidement au risque lié à l’IA. Quelle est cette exposition au risque pour votre entreprise, pour vos clients ?

Tous les contrats que je connais stipulent que les données de tiers ne peuvent pas quitter votre environnement et être transmises à une source tierce. Maintenant, quel que soit le modèle d’IA que vous voulez utiliser, ces données quittent votre environnement, sont transférées à une source tierce et reviennent pour vous donner une réponse. Je pense donc qu’il va y avoir beaucoup de changements dans la façon dont les responsables juridiques vont étudier la question, dans la façon dont le risque sera assumé par le client et par l’entreprise. Je pense qu’il va y avoir beaucoup d’innovation dans ce domaine.

Danielle Ruderman (01:19) :
Nous observons également de véritables aspirations quant à ce signifie que l’avenir avec l’IA. Certains de nos responsables de la sécurité informatique estiment qu’il s’agit d’une formidable opportunité pour nous de développer notre activité en attirant de nouveaux talents dans le domaine de la sécurité.

Parfois, il peut être difficile d’accéder aux informations dont les utilisateurs ont besoin, mais peut-être que ces outils peuvent aider un analyste SOC junior ou d’autres spécialistes de la sécurité à vraiment se familiariser, à obtenir les outils dont ils ont besoin et à développer leurs compétences plus rapidement, ce qui nous aidera véritablement, en tant qu’industrie, à développer davantage de professionnels de la sécurité.

Martin Holste (01:45) :
Pour les entreprises, il est indispensable de commencer à utiliser l’IA générative, sous peine de se retrouver à la traîne. En tant que responsable de la sécurité des systèmes d’information, vous devez donc trouver un moyen de permettre à vos employés d’être productifs, mais aussi de le faire de manière sûre.

Je suis un fervent partisan de l’utilisation de l’IA générative autant que possible dans une entreprise standard. Nous organisons donc de nombreuses formations en interne sur la façon d’utiliser toutes sortes d’IA différentes afin qu’elles soient plus productives. Dans le même ordre d’idées, nous avons également mis en place des contrôles pour nous assurer qu’il est impossible de copier et coller accidentellement quelque chose à un endroit où cela ne devrait pas être.

Danielle Ruderman (02:14) :
Je pense que la troisième chose très intéressante est la promesse de l’IA d’aider même les professionnels de la sécurité les plus expérimentés à se concentrer sur ce qu’ils ont à faire. Imaginez que vous analysiez des journaux et que vous ayez appris à coder dans un certain langage, par exemple Python, mais que vous deviez maintenant analyser des journaux et apprendre à écrire des requêtes SQL. L’obstacle est de devoir apprendre ces différents langages pour les extraire. Vous savez où se trouvent les données, mais vous devez apprendre à les extraire avec le code différent. Imaginez si vous pouviez simplement dire à l’IA ce que vous voulez faire et quelles données vous souhaitez rassembler pour effectuer votre analyse, sans avoir à apprendre tous ces différents modèles de codage ésotériques.

C’est une grande puissance qui peut réellement nous aider à accélérer les enquêtes et à vraiment aider tout le monde, des professionnels de la sécurité débutants aux professionnels très expérimentés, à faire leur travail plus rapidement.

► Écoutez le podcast : La valeur (et la menace) de l’IA générative pour les équipes de sécurité

Chris Rothe (02:58) :
Le principal défi en matière de sécurité, en fin de compte, est le déficit de ressources humaines. D’où l’importance du travail effectué par AWS pour améliorer progressivement la sécurité de la plateforme et des services.

Mais d’une manière générale, nous voulons que chaque membre de l’équipe Red Canary utilise l’IA générative d’une manière adaptée à son rôle. Prenons l’exemple du vendeur qui, suite à une excellente conversation téléphonique avec un client, doit rédiger un e-mail de suivi : nous devons accélérer ce processus et améliorer la qualité de cette communication. En fin de compte, c’est bénéfique pour le client et pour vous, car la tâche vous a pris cinq minutes au lieu d’une heure.

Voilà notre approche, qui consiste à faire en sorte que tout le monde puisse utiliser l’IA générative en toute sécurité. Mais je pense que nous n’en sommes qu’à nos débuts pour ce qui est de savoir quels sont les pièges et quels sont les défis qui y sont associés. Quels types de problèmes juridiques seront soulevés au cours des prochaines années en ce qui concerne l’IA générative ?