Palo Alto Networks 使用 AWS、Anthropic 和 Sourcegraph 的人工智能解决方案提高了 2,000 名开发人员的工作效率

Palo Alto Networks 是一家跨国公司，总部位于加利福尼亚州，致力于为组织提供一流的网络安全解决方案。当生成式人工智能进入市场时，Palo Alto Networks 认识到这项技术有可能改变其业务运营，但问题在于如何以一种有利于内部团队和客户的方式使用它。该公司领导层认识到，第一行代码关乎到产品的质量和客户满意度，因此决定将生成式人工智能解决方案集成到其开发团队的工作流程中，这将是利用这个机会的最佳方式。该公司的目标是创建一个生成式人工智能工具，为其全球 3500 名开发人员提升速度和质量。理想情况下，生成式人工智能工具将使开发人员能够在相同的时间范围内交付更多功能，优化代码以提高性能和安全性，并帮助开发人员更快地进行故障排除。

但是，作为该公司皇冠上的明珠，其源代码的安全性至关重要，安全团队对数据隐私的要求淘汰了大多数产品。此外，由于生成式人工智能解决方案才诞生不久，它们正在迅速变化，或者未必总能兑现承诺，而且很少能提供全面集成的解决方案。Palo Alto Networks 明白，如果其工程师设计了一个定制解决方案，就可以更好地控制安全性、定制和迭代。但是，在内部从头开始构建解决方案是没有意义的。“如果一家公司的全部使命是为客户构建和解决这些问题，那么这家公司就总能以最佳方式解决这个问题。由于不需要从头开始创建所有解决方案，我们可以继续专注于开发出色的安全产品。” Palo Alto Networks 工程总监 Gunjan Patel 表示。

核心工程师团队知道他们想要使用最先进的语言模型和服务创建一个生成式人工智能解决方案，他们的第一步是根据内部评估标准评测市场上的数十种选项。该计划旨在开发一个概念验证，并将其战略性地推广到分布在全球的团队。这将需要与选定的供应商密切合作。最后，团队必须确定如何衡量其工作成功与否，考虑到如何评价更好的代码具有主观性，因此这将是一项颇具挑战性的任务。

Palo Alto Networks 根据基准（包括代码架构、代码生成、单元测试生成、代码文档以及调试或错误检测）对人工智能编码助手和大型语言模型（LLM）进行了排名。该公司还权衡了安全性、可扩展性、性能和定制方面的优点和缺点。Palo Alto Networks 随后选择了三家符合其安全和扩展标准并在评估中排名最高的提供商：AWS、Sourcegraph 和 Anthropic。作为该解决方案的基础，Palo Alto Networks选择了 Amazon Bedrock，这是一项提供高性能基础模型的完全托管服务。该解决方案的核心，该团队将托管在 Bedrock 上的 Anthropic 的 Claude 3.5 Sonnet 和 Claude 3 Haiku LLM 与 Sourcegraph 的 AI 编程助手 Cody 整合在一起。Cody 是一个集成到开发人员 IDE（集成开发环境，开发人员可以在其中编写、调试和维护代码）中的工具。该工具与 Palo Alto Networks 的 Bedrock 环境中配置的 Claude 模型连接，为开发人员创建了一个无缝的统一系统。

Palo Alto Networks 选择 AWS 的原因在于该云提供商是一个值得信赖的第三方，可以托管 Anthropic 和 Sourcegraph，为网络安全公司提供安全的单租户基础设施。由于 Sourcegraph 的部署选项允许灵活地托管基础设施和 LLM 端点提供商，因此 Palo Alto Networks 选择将其以单租户自托管配置的形式部署在 AWS 上。人工智能编码助手 Cody 被配置为调用 Palo Alto Networks 提供的 Amazon Bedrock 私有 VPC 端点。这使得 Palo Alto Networks 具有足够的安全性和吞吐量，可以为其绝密数据运行 Anthropic 的 Claude 模型。“这三家公司都做了大量的定制以满足我们的要求，而且全部都能融合在一起。”Patel 表示。

在共同的期待和紧密合作的意愿下，工程团队在三个月内就构建出了解决方案和概念验证。该团队设计的解决方案旨在让托管在 Palo Alto Networks 的 AWS 账户中的 Cody 调用托管 Claude 模型的 Amazon Bedrock，从而在 Cody 和 Claude 模型之间实现无缝集成，以增强代码开发和维护。这种设计使 Palo Alto Networks 能够构建和扩展其生成式人工智能编码助手应用程序。开发人员通过 Web 用户界面或 IDE 扩展在前端与 Cody 交互。当开发人员通过聊天界面向 Cody 发送提示时，Cody 会附加额外的上下文并将请求发送给 Claude。然后，Claude 会处理查询并生成响应，Cody 会将响应显示给用户。

在推出之前，Palo Alto Networks 首先对原型进行了为期一个月的测试，最开始是低风险的开源代码项目。随后，领导层挑选了 150 名核心产品开发人员，他们以不同的角色，在不同的国家用不同的编程语言工作，继续试用该工具。经过两个月的迭代测试和反馈，Palo Alto Networks 向 1,000 多名开发人员开放了该工具。为了最大限度地提高效率，开发人员接受了来自 AWS、Anthropic 和 Sourcegraph 的针对性培训。Anthropic 举办了提示工程讲习会，Sourcegraph 举办了 Cody 学习课程，AWS 举办了人工智能培训。“AWS、Anthropic 和 Sourcegraph 在整个项目中与我们合作，参与了从联合测试到运营支持的所有工作。”Patel 表示。

新的解决方案为多种用例提出问题和生成安全、高质量代码提供了一个集中的场所，可跨不同的编程语言，使用数千个 API。例如，工程团队构建了一个工具，该工具使用现有的 Prisma Cloud 静态应用程序安全性测试（SAST）功能来检测和使用 Cody 自动修复代码漏洞。Palo Alto Networks 完成初始架构仅三个月后，该公司就有 2,000 名开发人员使用了其生成式人工智能编码工具，目标是在下一季度再增加 1,500 名开发人员。在此期间，领导层发现编码工作效率最高提高了 40％，全公司的平均水平在 20％ 至 25％ 之间。部分原因在于集中式聊天界面减少了开发人员在文档中搜索答案等花费的时间。

得益于支持广泛用例的自定义命令、不断提高的内部采用率以及解决方案的进一步复杂化，Palo Alto Networks 的领导层正致力于在相同的时间内将公司可以提供的功能数量增加一倍。“我们要求新员工编写一个集成，这原本要求他们了解产品、API、代码库并编写代码。有了这个解决方案，一位新上岗的开发人员能够很快开始开发一个不熟悉的代码库，并从第一天就开始为之做出贡献，”Patel 表示。

Palo Alto Networks 还期待实现更庞大的长期收益（例如该举措如何为客户减少缺陷），该公司预计，随着工具变得越来越智能，更多用例得以实现，工作效率和代码质量将随着时间的推移继续提高。“我们正在采取登陆扩张的方法，与 Palo Alto Networks 的产品团队密切合作，共同开发为客户需求量身定制的特定用例。从最初的合作开始，我们一直在与客户的物联网 (IoT) 团队共同开发一个新的用例，作为我们扩大合作的起点。” AWS 首席 AWS 销售主管 Sean Blakley 表示。

Amazon Bedrock 是一项完全托管式的服务，通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型（FM），以及通过安全、隐私、负责任的人工智能构建生成式人工智能应用程序所需的一系列广泛功能。