安全领导者分享其对生成式人工智能的看法

Danielle Ruderman（00:03）：
安全和人工智能是一个非常广泛的话题，我们发现，首席信息安全官们正关注着几个不同的领域，很明显，其中必然包括 ChatGPT 等大型语言模型。他们的团队想要使用它，他们的程序员也想使用它，因此，我们必须谈谈，作为负责保护组织安全的首席信息安全官，你们制定了哪些政策和程序？ 对于它在团队中的使用，你们有什么看法？

我认为值得关注的是，许多首席信息安全官都希望自己的团队使用它。他们确实看到了这些工具的潜力，因此我们来谈谈，你们需要设置什么样的防护机制，以及如何负责任地使用这些工具。这些都是非常重要的讨论。

Aman Sirohi（00:34）：
我认为我们很快就会面临人工智能方面的风险。对于你的公司和客户来说，这些风险是什么呢？

据我所知，许多合同规定第三方数据不能离开你所在的环境并进入第三方来源。现在，无论你想使用哪种人工智能模型，这些数据都会离开你所在的环境，进入第三方来源，然后返回并给出一些答案。因此，我认为法律界对这一问题的看法，以及客户和公司承担风险的方式将会有很大的变化。我认为这个领域将会有很多创新。

Danielle Ruderman（01:19）：
关于人工智能对未来的意义，我们还看到了一些真正有抱负的思考。我们的一些首席信息安全官认为，这是我们扩大规模、在安全领域引入新人才的好机会。

有时候，人们获取其所需知识的入门过程可能会极具挑战性，但这些工具或许可以帮助安全运营中心初级分析师或其他安全人员真正地深入这个领域，获得其所需的工具，并更快地培养技能，这将真正帮助我们这个行业培养出更多安全专业人员。

Martin Holste（01:45）：
从商业角度来看，必须开始使用生成式人工智能，否则就会落后。因此，作为首席信息安全官，必须想办法让员工提高工作效率，同时还要以安全的方式做到这一点。

我坚决支持在标准业务中尽可能使用生成式人工智能。因此，我们在内部进行了大量培训，介绍如何使用各种不同的人工智能来提高员工的工作效率。同时，我们还制定了一系列控制措施，以确保他们不可能意外地将内容复制和粘贴到非目标位置。

Danielle Ruderman（02:14）：
我认为第三件非常值得关注的事情是，即使是资深安全专业人员，也可以利用人工智能帮助自己更深入地钻研其必须完成的工作。想象一下，如果你要分析日志，虽然你已经学会了使用某种语言（可能是 Python）编写代码，但现在你需要做的是分析日志，并学习如何编写 SQL 查询。其中的阻碍就是，必须学习不同的语言才能提取数据。你知道数据在哪里，但你必须学会使用不同的代码提取它们。试想一下，如果你只需告诉人工智能，你想做什么，你想提取哪些数据进行分析，而无需学习所有这些不同的深奥编码模型，那会怎么样。

这其中蕴含着强大的力量，可以真正地帮助我们加快调查时间，而且，从初级安全专业人员，到资深专业人员，所有人都可以借助这种方式更快地完成工作。

► 收听播客：生成式人工智能对安全团队的价值（和威胁）

Chris Rothe（02:58）：
归根结底，在安全领域，最大挑战在于缺乏足够的人手，难以顾及所有方面。因此，AWS 所做的工作至关重要，他们通过一点一滴的努力，提高了平台和服务的安全性。

总的来说，我们希望 Red Canary 团队中的每个人都能够根据自己的角色，合理地运用生成式人工智能。无论你是销售人员，刚刚与客户完成了一次顺利的通话，需要整理一封跟进邮件，还是其他情况，我们都希望你能够加快这个过程，并提高沟通的成效。因为归根结底，你和客户都能受益，因为这一过程只花了五分钟，而不是一个小时。

因此，我们的态度就是确保每个人都能以安全的方式使用它。但我认为，在了解与之相关的陷阱和挑战方面，我们还处于起步阶段。 未来几年，会出现哪些与生成式人工智能相关的法律问题？