Los líderes de seguridad comparten sus opiniones sobre la IA generativa

Danielle Ruderman (00:03):
La seguridad y la IA son un tema muy amplio, y descubrimos que nuestros CISO se preocupan por un par de áreas diferentes; una obviamente es ChatGPT, los modelos de lenguaje de gran tamaño. Sus equipos quieren usarlos, sus programadores también, por lo que tenemos que hablar, como CISO responsable de proteger la organización, sobre qué políticas y procedimientos implementas. ¿Qué opinas de que tus equipos lo usen?

Creo que lo interesante es que muchos CISO quieren que sus equipos lo usen. Ellos ven realmente el potencial de estas herramientas, por lo que hablamos sobre el tipo de barreras de protección con las que debes contar y cómo usarlas de manera responsable. Son debates muy importantes.

Aman Sirohi (00:34):
Creo que nos vamos a topar bastante rápido con el riesgo de la IA. ¿Qué significa esta exposición al riesgo para tu empresa y tus clientes?

Todos los contratos que conozco dicen que los datos de terceros no pueden salir de su entorno e ir a una fuente de terceros. No importa el modelo de IA que desees utilizar, esos datos salen de tu entorno, van a un origen de terceros y regresan para brindarte alguna respuesta. Por lo tanto, creo que habrá muchos cambios en la forma en que lo ve el sector legal, en la forma en que el cliente y la empresa asumen el riesgo. Me parece que habrá mucha innovación en esa área.

Danielle Ruderman (01:19):
También vemos algunas ideas realmente ambiciosas sobre lo que significa el futuro con la IA. Algunos de nuestros CISO consideran que se trata de una oportunidad increíble para ampliar la incorporación de nuevos talentos a la seguridad.

A veces, la vía de acceso, como dar a las personas los conocimientos que necesitan, puede resultar difícil, pero tal vez estas herramientas sean algo que pueda ayudar a un analista junior de SOC u otros profesionales de la seguridad a apoyarse y obtener las herramientas que necesitan y a desarrollar sus habilidades más rápido, lo que realmente nos ayudará, como industria, a desarrollar más profesionales de la seguridad.

Martin Holste (01:45):
Bueno, en términos empresariales, tienes que empezar a utilizar la IA generativa o te vas a quedar atrás. Por lo tanto, como CISO, debes encontrar la manera de permitir que tu personal sea productivo, pero también hacerlo de manera segura.

Soy un gran defensor del uso de la IA generativa en la medida de lo posible en una empresa estándar. Por eso, hacemos muchas formaciones a nivel interno sobre cómo usar todo tipo de herramientas de IA diferentes para que puedan ser más productivos. En este sentido, también tenemos controles para asegurarnos de que es imposible que puedan copiar y pegar accidentalmente algo donde no debería.

Danielle Ruderman (02:14):
Creo que un tercer aspecto que ha sido muy interesante es la promesa de la IA de ayudar incluso a los profesionales de seguridad de más edad a enfrentarse con mayor determinación a su trabajo. Imagínate que estás analizando registros y has aprendido a codificar en un lenguaje determinado, tal vez Python, pero ahora necesitas analizar los registros y aprender a escribir consultas SQL. La barrera que existe es tener que aprender esos lenguajes diferentes para extraer datos. Sabes dónde están los datos, pero tienes que aprender a extraerlos con un código diferente. Imagínate si simplemente pudieras decirle a la IA lo que quieres hacer y qué datos quieres obtener para realizar su análisis, sin tener que aprender todos esos modelos diferentes de codificación esotéricos.

Hay una gran cantidad de poder con la que de verdad podemos acelerar las investigaciones y ayudar a todo el mundo, desde nuestros profesionales de seguridad más jóvenes hasta los más veteranos, a hacer su trabajo más rápido.

►Escuche el podcast: The Value (and Threat) of Generative AI for Security Teams

Chris Rothe (02:58):
El gran desafío en materia de seguridad, en definitiva, es que no hay suficiente personal para todos. Por eso es tan importante el trabajo que realiza AWS para hacer que la plataforma sea más segura y los servicios más seguros, centímetro a centímetro, kilómetro a kilómetro.

En términos generales, queremos que todos los miembros del equipo de Red Canary utilicen la IA generativa de una manera que tenga sentido para sus roles. Si eres vendedor y cuelgas tras una llamada excelente con un cliente y necesitas preparar un correo electrónico de seguimiento, hagamos que eso sea más rápido y mejoremos la calidad de esa comunicación. Porque, en última instancia, eso es mejor para el cliente y mejor para ti, porque te llevó cinco minutos en lugar de quizás una hora.

Así que ese ha sido nuestro enfoque, asegurarnos de que todo el mundo pueda usar esa tecnología de manera segura. Pero creo que aún es pronto para saber cuáles son las dificultades y cuáles son los desafíos asociados a esta tecnología. ¿Qué tipo de asuntos legales van a surgir en los próximos años en relación con la IA generativa?