Líderes de segurança compartilham suas ideias sobre IA generativa

Danielle Ruderman (00:03):
Segurança e IA são tópicos muito amplos, e descobrimos que nossos CISOs se preocupam com algumas áreas. Uma delas, obviamente, é o ChatGPT e os grandes modelos de linguagem. As equipes querem usar essas ferramentas, assim como os programadores. Então, como CISOs responsáveis pela segurança da organização, precisamos conversar sobre quais políticas e procedimentos você implementa. O que você acha de suas equipes usarem essa tecnologia?

Acho interessante que muitos CISOs querem que suas equipes a usem. Eles enxergam o potencial dessas ferramentas, então falamos sobre quais tipos de barreira de proteção são necessárias e como usá-las com responsabilidade. Essas discussões são muito importantes.

Aman Sirohi (00:34):
Acho que logo vamos nos deparar com os riscos da IA. Qual é a exposição aos riscos para a empresa e os clientes?

Todos os contratos que conheço mencionam que dados de terceiros não podem deixar o ambiente e ser transferidos para outro lugar. Seja qual for o modelo de IA que deseja usar, esses dados agora estão saindo do seu ambiente, passando para terceiros, retornando e gerando algumas respostas. Portanto, acho que haverá muitas mudanças na forma como o setor jurídico encara essa questão, como os riscos são assumidos pelo cliente e pela empresa. Acho que haverá muita inovação na área.

Danielle Ruderman (01:19):
Também observamos ideias realmente ambiciosas sobre o significado do futuro com a IA. Alguns CISOs acreditam que essa é uma oportunidade incrível para crescermos trazendo novos talentos para o setor de segurança.

Às vezes, o início do processo, como dar às pessoas o conhecimento necessário, pode ser um desafio. Mas talvez essas ferramentas ajudem um analista júnior de SOC ou outra equipe de segurança a obter apoio e as ferramentas de que precisam, além de desenvolver habilidades com mais rapidez, o que nos ajudará, como setor, a desenvolver mais profissionais de segurança.

Martin Holste (01:45):
Bem, em termos de negócio, você precisa começar a usar a IA generativa ou ficará para trás. Então, como CISO, você precisa encontrar uma maneira de permitir que seu pessoal seja produtivo, porém com segurança.

Sou um grande defensor do máximo uso da IA generativa em um negócio padrão. Por isso, fazemos muitos treinamentos internos sobre como usar todos os tipos de IA para que todos possam ser mais produtivos. Nesse sentido, também temos controles para garantir que seja impossível copiar e colar acidentalmente algo onde não deveria.

Danielle Ruderman (02:14):
Acho que a terceira coisa que tem sido muito interessante é a promessa da IA de ajudar até mesmo profissionais de segurança maduros a se aprofundarem no que precisam fazer. Imagine que você está analisando logs e aprendendo a codificar em uma determinada linguagem, talvez Python, mas agora precisa analisar logs e aprender a escrever consultas SQL. A barreira é ter que aprender essas linguagens diferentes para fazer extrações. Você sabe onde estão os dados, mas precisa aprender a extraí-los com o código diferente. Imagine se pudesse simplesmente dizer à IA o que deseja fazer e quais dados reunir para análise, sem ter que aprender todos esses diferentes modelos de codificação esotérica.

Há muitas possibilidades que podem nos ajudar a acelerar o tempo das investigações e ajudar todos, dos profissionais de segurança juniores até os mais maduros, a trabalhar com mais rapidez.

► Ouça o podcast: O valor (e a ameaça) da IA generativa para as equipes de segurança

Chris Rothe (02:58):
Em última análise, o grande desafio da segurança é que não há pessoas suficientes para esse trabalho. Por isso é tão importante o trabalho que a AWS está desenvolvendo em termos de tornar a plataforma e os serviços mais seguros, em cada detalhe possível.

De modo geral, queremos que todos na equipe da Red Canary usem a IA generativa de uma maneira que faça sentido para suas funções. Caso seja um vendedor que acabou de fazer uma ótima ligação com um cliente e precisa elaborar um e-mail de acompanhamento, vamos agilizar isso e melhorar a qualidade dessa comunicação. No final das contas, isso é melhor para o cliente e melhor para você, porque você demorou cinco minutos em vez de talvez uma hora.

Esta tem sido nossa abordagem: garantir que todos possam usá-la de maneira segura. Mas acho que estamos no início da jornada em termos de reconhecer as armadilhas e os desafios associados a elas. Que tipo de questões legais surgirão nos próximos anos em relação à IA generativa?