人工智能代理：企业安全的新前沿

Clarke Rodgers：
我是企业战略总监 Clarke Rodgers，我将引导大家与安全领导者进行一系列对话。今天的嘉宾是来自 Abnormal AI 的 Mike Britton。请加入我们，讨论安全领导力、安全职业道路和代理式人工智能等话题。

Mike，非常感谢您今天能够光临。

Mike Britton：
谢谢。很高兴来到这里。

Clarke Rodgers：
请介绍一下您自己以及您在 Abnormal 担任的角色。

Mike Britton：
我是 Mike Britton。我是 Abnormal 的首席信息官。我在那里工作了四年，我负责的一些工作包括管理我们的内部 IT 计划、安全性、客户信任以及老板要求我做的任何其他事情。

Clarke Rodgers：
这么说，您已经从首席信息安全官晋升到首席信息官这一职位。您能否谈一谈，这次职位转变是如何发生的？

Mike Britton：
这很有趣。在整个职业生涯中，我总是乐于接受新的挑战。我在以前的职务中就负责过 IT 事务，而在我刚刚来到 Abnormal 时，我们大约有 100 到 120 名员工，还没有组建真正的 IT 团队。我非常熟悉这样的情形。也很喜欢亲力亲为。我热衷于技术，而且总是在进步。在过去的四年里，我在 Abnormal 不断成长。我们经常与首席执行官，也就是我的上司进行交谈，讨论下一步的行动。在不断成长的道路上，我们面临着很多令人兴奋的挑战，我由衷地认为，这是一个绝佳机会，可以拓宽视野、审视我们的技术转型，以及我们作为一家公司应当如何发展壮大。

Clarke Rodgers：
那么作为首席信息官，您现在可以确保在全部 IT 事务中，每个人都将安全性视为重中之重。对吗？

Mike Britton：
是的。我经常对我的团队说，IT 与安全这两个部门总是会不自觉地来回拉扯，而现在终于能说一句，大家都是一家人了，感觉当然很好。要好好相处。

Clarke Rodgers：
没错。

Mike Britton：
我要求我的 IT 团队关注安全性，我的安全团队还需要将内部客户考虑在内。这并不是说要彻底消除风险，而是要保障生产力、要实现业务目标，有时还意味着，我们的世界不可能尽善尽美。

Clarke Rodgers：
当然。  除了首席信息官这一角色以外，您还负责主导 Abnormal 的重要人工智能事务。您能否谈一谈，这项事务是怎么落到您手中的，抱歉我找不到更好的词汇了；然后谈谈您是如何看待人工智能的，不仅是将其作为内部的一种业务工具，而且可以从攻击者的角度加以考虑；还有您如何保护组织免受人工智能攻击的侵扰？

Mike Britton：
是的，这很有趣，因为 Abnormal 向来是一家人工智能公司。我们总是喜欢开玩笑说，在人工智能变得很酷之前，我们就已经在做人工智能了。Evan 和 Sanjay 都是创始人。他们将这家初创公司命名为 Abnormal AI。在我看来，他们从市场中获得了非常积极的反馈，包括“这太新颖了”、“太超前了”、“太让人恐慌了”。我们心想，“好吧，我们改名叫 Abnormal Security 吧。” 现在，我们恰好处于正确的时间、正确的位置来回归我们最初的立业之基。所以我们将公司名称重新改为 Abnormal AI。

从产品的角度来看，我们为人工智能做了很多非常棒的事情，而且获得了大把的机会。您可以在一些刚刚起步的小型初创企业中看到这一点。他们能够利用人工智能来进行开发。他们能够在内部利用人工智能。我们必须能够敏捷地开展业务。我们必须能够扩大规模。我喜欢这样一个理念：在经过人工智能赋能之后，组织中的每一个人都必须能够发挥他们的最大潜力。为此，我们要做的一些事情包括寻找新的机会，并思考我们如何才能扩大规模。 这并不是要取代人类的工作。这是关乎如何在不增招 10 倍雇员的情况下，在未来的五年内实现 10 倍增长。

Clarke Rodgers：
鉴于您的业务用户使用的人工智能工具正在激增，您如何看待这些工具的安全化，然后在将它们出售给这些用户之前，您会为此实施哪些类型的护栏？

Mike Britton：
好吧，首先，我希望我能揽到这些生意。我希望用户在有想法的时候来找我。我希望他们找到我说：“嘿，我们正在想方设法解决这个问题。” 如今，他们只需输入一个电子邮件地址，甚至不必输入信用卡号，就可以开始行动了，简直不费吹灰之力。不管是作为安全人员还是 IT 人员，我都不能自欺欺人地认为：“我们能够阻止和消灭一切来犯之敌。”

Clarke Rodgers：
对。

Mike Britton：
我需要邀请他们来和我一起工作，帮助他们快速尝试，快速失败，看看哪些做法有效，哪些做法无效，还要帮助他们了解投资回报。这不仅仅与成本有关，还涉及到实施速度，以及利用这一工具帮助我们解决难题时产生的实际影响。坦白地说，我们目前处于这样一个奇怪的时代：市场中的每种产品都有 8 千个版本，而且每天都有新的产品涌现。尽管我乐于看到同一种产品具有五个版本可供选择，但我们非常希望精简工具和技术，从而帮助人们找到正确的解决方案。

Clarke Rodgers：
那么，您是如何在 Anbormal 打造安全文化来帮助实现这一愿景的？您希望保护组织，但是随后，您也想让人们快速行动和进行创新。那么，您是如何找到这一平衡的，这样既不被视为持反对意见的部门，还能实施合理的安全规则？

Mike Britton：
是的，这是一种平衡。我们并非生活在一个非黑即白的世界里。这个世界总是在灰色地带中运转。任何组织，无论是像我们这样的科技公司还是传统企业，都必须承担一定的业务风险才能取得成功。所有的行动都要了解并应对这些风险。我经常寻找机会来证明安全性也可以成为业务推动力，无论是向无密码转变，还是在早期阶段指导和实施适当的措施。我不希望我的团队说不，当团队一开始就拒绝时，我会大为光火。我更倾向于充当一名顾问。这就好比，我担任组织的顾问、产品的顾问、业务的顾问，帮助他们理清头绪，进而做出正确的决策，并在能够承受的范围内，尽可能快地采取行动并承担尽可能多的风险，以便快速推进工作。

Clarke Rodgers：
将安全性视为业务推动力时，如何报告或展示目前实施的安全计划的运行状况和有效性，以便确保您的其他业务领导者了解安全计划的方方面面以及您如何为他们提供支持？ 无论您的上司是高管还是董事会成员，您如何报告运行状况和有效性？

Mike Britton：
很明显，比如说，嘿，我们没有遇到重大事件或重大漏洞。报告内容涉及平均检测时间。平均修复时间。而且我不喜欢虚荣指标。我认为安全措施中充斥着很多虚荣指标，这些指标无法真正表明组织的运行状况或风险，但它们在控制面板上变得很好看。

Clarke Rodgers：
网络钓鱼点击量。

Mike Britton：
是的，网络钓鱼点击量。我的意思是，我可以调整这些内容，然后随意调高或调低一周中某一天的这种指标，但它们无法真正向我展示组织的任何情况。它们无法真正告诉我实际的风险有哪些、威胁形势如何、组织的攻击足迹是什么样的。 坦白地说，问题可以归结为故事太多。我向来认为，向董事会和高管们报告时要讲故事，要给他们一个数据点，然后解释背后的原因。尽管我希望他们仅仅通过查看电子表格或幻灯片就能了然于胸，但实际情况要复杂得多。实际上，作为安全和技术领导者，我们必须擅长讲故事。我必须充当一名推销者，才能向内部的利益相关方推销我的计划的价值。

Clarke Rodgers：
您具体是怎么做的？ 是讨论经济利益吗？ 还是讨论风险？ 或者，当您讲述这个故事时，您的领导层是否希望深入了解安全指标？

Mike Britton：
上面这几种说法似乎都对。很显然，这关乎降低风险。这关乎指出我们阻止的猛烈攻击。这关乎我们要避免的情况，但也关乎生产力的提高。这关乎我是否能够说，我不会将宝贵的人力资源浪费在可以自动化的事情上。我不会让员工去克服额外的障碍和采取额外的行动，否则他们会无谓地损失生产力。员工们的生产力、我的团队的生产力以及降低的风险会共同产生良好的效果。

Clarke Rodgers：
随后，我们回到 IT 方面，当然，您现在处于有利的位置，因为您是首席信息官，并且还负责首席信息安全官管辖的安全事宜，那么您是如何让开发人员重视安全性的？ 以往，我们让开发人员推送代码，使其经过不同的层，直到进入生产环境，但是可能遇到所谓的安全阻力。比如这样阻拦：“哦，我发现了一些问题，现在需要解决这些问题。” 您如何将心态从“安全性阻碍了我”转变为“我还有改进的余地，然后就可以更安全地进行构建”？

Mike Britton：
我们是一家安全公司，因此如果每一名开发人员、每一名工程师都拥有安全方面的背景或者曾在安全公司就职，那就太棒了。但现实情况是，他们没有这样的背景或经历。因此，我们还要开展一些工作，以便帮助他们了解客户的处境以及客户关心的问题。客户会关心他们的数据。客户关心我如何保护自己的基础设施，以及我如何帮助团队了解我们之所以有事情做，是因为客户会购买我们的产品。正是由于这一关系的存在，我必须赢得并维持客户的信任。信任，无论是客户的信任还是一般意义的信任，通常是很难建立、很难获得的，但是却很容易失去，而且我们负担不起这样的损失。

此外，我们越帮助团队了解客户的看法，就越能帮助他们理解其中的利害。我不止会专横地说：“你们不能那样做，你们必须这样做。”我还经常尝试列举客户的实际示例，表示客户曾经说过：“嘿，关心的使这个。” 在前进的道路上，我们依赖人工智能并且对它寄予厚望，但并非每个组织都是这样。有些公司的风险状况比较保守，并且认为人工智能是一股可怕的力量，我们必须理解这种观念并进行相应的调整。

Clarke Rodgers：
我喜欢这种做法。您基本上是在帮助开发人员拨开重重迷雾，洞悉整体局势。对于您的开发人员社区和安全社区，您是如何帮助他们在各自的角色中成长的？ 当然，还有组织内的人才留存问题。如今，人们每隔几年就会跳一次槽，这是非常正常的现象，但是当这些人员离职时，您的组织会失去大量的机构知识，并严重阻碍文化成长。那么，您会采取哪些措施为他们铺平职业发展道路，最终留住这些人才？

Mike Britton：
老实说，我认为从招聘过程开始就要未雨绸缪。我总是渴望看到不同的面孔。我希望员工拥有求知欲。我希望员工成为多面手。我希望员工乐于学习和成长。对比一下我在职业生涯早期和现如今必须学习的知识，我在职业生涯早期了解的全部信息放到今天已经过时了。这没什么大不了的。我如今了解的全部信息或许在五年之后也会过时。

因此，我们的员工必须渴望学习和成长，而且是发自内心的渴望。这是硬币的两面。我必须提供资源和机会，但员工们也必须渴望和愿意把握这个机会。因此，在我看来，如果以这一前提为起点，并且找到愿意调整、好奇心强、渴望学习的员工，这一部分工作就很容易完成了。在我看来，面临的挑战往往是，我们必须让他们摆脱无聊、单调、日常性的事务，而且我坚信人工智能和自动化能够在这方面大显身手。如果员工的工作很有意义，每天上班都能看到自己的日常工作带来的转变，他们就能够看到自己对组织产生的影响，就会在很长的时间内不离不弃，尤其是在我们一直帮助他们成长和学习时。我认为这是留住人才的最好办法。

当我开始为这家公司效力时，从第一天起我就是这样做的。我在组建了一支规模适中的 IT 和安全团队。迄今为止，在我们迄今拥有的大约 75 名员工当中，只有两名员工和我们分道扬镳。

Clarke Rodgers：
这说明有些做法奏效了。对吗？

Mike Britton：
有些做法起作用了。

Clarke Rodgers：
我希望稍后深入探讨人工智能和自动化，但是您说的一句话让我印象深刻，那就是好奇心。您能否再谈一谈好奇心为何如此重要？

Mike Britton：
我们非常幸运，因为我们生活在信息世界里，海量的 YouTube 频道、X 推文和信息触手可及。因此，员工们仍然要渴望开始挖掘和寻找信息，并花一些时间研究这些信息。如果我不实际摄取并了解这些信息，这些信息就不会给我带来任何好处。然后，我仍然坚信我们要接触这些信息，利用这些信息。如果我们不愿意亲自试用代理式人工智能，我们怎么能够理解它呢？

“黑客”一词有着糟糕的含义，原因很不幸，很多威胁行为者让这个词语蒙受了污名。实际上，如果回想一下我年轻的时候以及其他人的情况，我们只不过是想要了解某个事物是如何运转的。我把它掰开揉碎，然后尝试让它去做一些它预期功能以外的事情。只有拥有这样的好奇心，才能了解事物的运转方式。在安全方面，我们需要更多的黑客思维。在我看来，很多时候，安全性都是迫于合规要求开展的流程式工作。这些全都是管理风险的工作，这一点固然重要，但我们还必须拥有那份好奇心。我们必须拥有这样的渴望，才能了解事物是如何运转的，明白事物为何无法运转，并且乐于动手操作。

Clarke Rodgers：
作为一名领导者，您是如何做到与时俱进的？ 安全环境似乎日新月异，随之而来的是，技术环境可能在以两倍的速度发生着变化。您如何了解最新动态，做到与时俱进，以便能够有效地向组织内的同事们传达风险？

我认识几个首席信息安全官，他们每天都要在百忙之中抽出一点时间进行学习。或许是一天开始或结束时的一个小时。您在做着类似的事情，还是脑海中想起什么就去研究什么？

Mike Britton：
我确实每个月都会挤出两天的时间来。这两天是我的免开会日。那并不意味着我不参加任何会议，实际上，我可能只参加三、四个（而不是 15 个）会议。我会有目的地使用那些时间。我们必须提前计划并且腾出时间。这样的时间可不会自然而然地冒出来。不好的一点是，我要在深夜花费大量时间浏览 Twitter 和其他类似的资源，只是为了掌握最新动态。

Clarke Rodgers：
太赞了。从组织内的安全运营视角来看，您如何看待自动化和人工智能？

Mike Britton：
在我看来，人工智能有能力对安全性造成破坏。仔细想一想，攻击者们如今正在使用人工智能。他们是否只使用人工智能？ 并非如此。他们是否将人工智能用作主要工具？ 或许不是，但他们正在使用人工智能。现在又回到了我们之前讨论的人工智能工具。或许有一百种各式各样的人工智能营销工具可供选择，帮助您撰写有效的电子邮件，送达潜在客户的收件箱并与他们互动。这样的工具已经变成了消费品，简单易用。即便不是天才也能轻松上手。当然，攻击者也可以这样做。此外，如果攻击者能够利用人工智能显著提高攻击行为的有效性，而且他们现在正以机器速度实施攻击，那么如果我仍以人类速度开展活动，我肯定会输掉这场战斗。

Clarke Rodgers：
当然。

Mike Britton：
因此，我的防御措施是，我的程序需要运行，需要做出决策，需要了解上下文，并以与攻击者相同的速度来分析具体的情况。

Clarke Rodgers：
您对代理式人工智能有什么看法？ 它要向哪个方向发展？ 我们实现了模型上下文协议，还有 A2A 协议，您认为这一切会在何时变得成熟？

Mike Britton：
是的，这一切都与数据有关。我们做得有多好完全取决于提供数据的大型语言模型。在我看来，MCP、A2A 这些现有的协议带来的机会…我们看一下 ChatGPT，看一下 Claude，看一下 Gemini，它们都是非常优秀的代理式人工智能工具。它们非常适合用于提出问题和解决问题。但是现在，如果我要将其他工具、其他代理关联到同一组数据，我会担心授权问题。我会担心数据泄露。数据会尊重访问边界吗？ 我现在要将不同的工具关联在一起，想让它们各自运行自己的任务，这个领域满是令人担忧的各种问题。我该如何进行监控呢？ 几天前，我曾与一名首席信息安全官交谈，他们担心的问题之一是，如今每个人都在使用代理式人工智能。我如何才能知道我使用的供应商何时突然在我的环境中启用了人工智能代理？ 在哪里能够了解这一信息？ 我该如何进行回应？

Clarke Rodgers：
实际上，这又回到了我们多年以来一直在研究的一个非常古老的问题，那就是谁在什么时候做了什么？ 对吗？ 只是现在问题中的“什么”是…它是组织内的一个非人类行为者。

Mike Britton：
它带来了新的挑战。我的意思是，当代理与代理交谈时，您的员工那时完全置身于事外。您打算如何保障这种情况的安全？ 您将如何防御存在恶意人工智能代理的环境？ 但这是我喜欢安全工作的原因之一。也是我现在已经从事安全工作将近三十年的原因之一。

Clarke Rodgers：
永远不会感到无聊。

Mike Britton：
我喜欢这个挑战。大多数人在职业生涯来到 30 年时，已经在考虑退休了。他们会在心里盘算，好了，我要躺平了。我之所以在这个行业摸爬滚打了如此长的时间，原因之一是我喜欢这样一个事实：每一天都是崭新的一天。每天都会迎来新的挑战，有些事情会让我保持思维敏锐，有些事情为我带来了挑战并促使我成长。我喜欢这样的挑战。

Clarke Rodgers：
好吧，在这一点上，虽然我并不想让您为难地进行预测，但是您认为在接下来的 18 到 24 个月中，这一切要向哪个方向发展？ 是否存在一组特定的技术，无论是侧重于安全事务还是侧重于非安全事务的技术？这一切会在何时变得成熟？

Mike Britton：
我的预测一部分是在尝试猜测，一部分是我的期望。很显然，营销炒作的是人工智能。现在，每家供应商都声称自己是人工智能供应商，形成了大量的干扰。成为技术买家的难点在于，如何区分事实与虚幻？ 如何区分真正的人工智能与拼凑的技术？ 每个人都可以为他们的解决方案添加一个类似于 ChatGPT 的界面。但那真的是人工智能吗？ 那真的能够提供价值吗？ 我希望在接下来的大约 18 个月里，市场能够逐渐明朗化。历来都是这样，在这样的变革时期，既有赢家，也有输家。看一看我们为数字化转型和云服务投入了多长的时间，似乎没完没了。

Clarke Rodgers：
而且还在继续。

Mike Britton：
而且还在继续。但人工智能的采用速度要快得多。因此，我认为这个过程中必然会出现赢家和输家。但我也要指出，这绝对是一个激动人心的时期。我并不认为人工智能…实际上，我坚信人工智能不会取代人类的工作，但我确实相信，而且我也不是第一个这么断言的，我坚信这要归结为不是人工智能会取代人类，而是有人会用掌握 AI 技能的人类取代不会使用 AI 的人类。其中的部分原因恰恰

Clarke Rodgers：
说得好。

Mike Britton：
… 也在改变着雇佣标准。我不在乎你在五年前做了什么。我在乎的是你现在正在做什么。你在探索什么？ 你在构建什么样的代理？ 你是否在使用人工智能开发工具？ 这才是我想知道的，因为

Clarke Rodgers：
您感到好奇吗？

Mike Britton：
没错。您感到好奇吗？

Clarke Rodgers：
当您考虑自己的职业生涯和晋升路线时，在当今的环境中，您会为雄心勃勃的首席信息官或首席信息安全官提供什么样的建议？

Mike Britton：
我想说的是，了解你的企业。了解你的企业如何赚钱。了解各个部分是如何组合在一起的。不要自认为你知道问题的解决办法就贸然行动。在开始告诉他们哪里蕴藏着风险或者他们应该如何行动之前，首先建立关系，主动建立关系，并且树立权威。

Clarke Rodgers：
我会认为，他们也会在一定程度上使用业务语言。

Mike Britton：
在我看来，安全领导者往往是技术狂热者。他们热衷于讨论技术，他们喜欢说出三个字母的首字母缩略词。使用业务语言，以首席财务官理解的方式说话，以销售主管说话的方式说话，了解是什么让他们彻夜难眠，了解他们的目标是什么，以及他们需要为企业做些什么。

Clarke Rodgers：
精准把握他们的激励因素和动机。

Mike Britton：
确实如此。我们的工作是说服他们，让他们仔细考虑这些事情。但归根结底，他们要在企业里担任特定的角色。他们要在企业里实现特定的目标。

Clarke Rodgers：
太赞了。最后，Mike，您最后想对您的首席信息安全官们说些什么？

Mike Britton：
很简单。但也很难。人们很容易尝试成为卢德分子（强烈反对提高机械化和自动化者）并试图阻止进步，然后说，不，不能让这种事情发生。我想说的是，试着去接受它。拥抱它。看看新涌现的供应商，看看颠覆性的技术。看看真正利用人工智能来改变和解决问题的那些人。不要害怕技术。对我来说，这是令人振奋的时代。

Clarke Rodgers：
说得好。Mike，非常感谢您今天能够光临。

Mike Britton：
谢谢你们的邀请。我感到非常荣幸。

立即收听

立即收听

立即收听