什么是人工智能治理？

人工智能治理是人工智能开发的规则、政策和监督机制的集合。人工智能应用程序使用海量数据集进行训练，并以不可预测的方式生成输出。这带来了围绕数据隐私、安全、版权和偏见的挑战。监管不当的训练数据会影响人工智能输出质量，并造成未经授权数据访问的风险。人工智能治理为监控、更新和评估人工智能系统提供了一种结构化的方法，可以减轻人工智能安全风险并防止错误的决策。它确保组织内部的人工智能开发尊重所有利益相关者的人权。

人工智能（AI），尤其是生成式人工智能，是一种受人脑设计启发的复杂软件算法。它就像一个黑箱，在分析、解释和预测输入和输出之间的关系方面带来了挑战。人工智能治理对于应对这些挑战至关重要。有了人工智能治理，实施符合伦理考量、社会价值观和法律要求的人工智能系统会变得更加轻松。您可以缓解以下风险。

输入风险

生成式人工智能系统从海量数据集中学习，这些数据集可能包含不准确、有限或有偏见的信息。人工智能模型是软件算法，可应用已掌握的信息来生成预测。因此，一些预测可能存在缺陷。例如，在批准贷款申请时，使用有限数据训练的信用评分系统可能会偏向特定人群。这就是为什么数据治理对于确保训练数据集公平地代表现实世界中的主体至关重要。

流程风险

人工智能系统由人类开发人员开发，可能会受到其偏好、价值观和信念的影响。这些模式可能体现在人工智能模型中，并导致有偏见的预测。例如，人工智能开发人员可能会对模型进行编程，根据他们认为合理的特定收入门槛筛选贷款申请。为了最大限度地降低人工智能算法带来的风险，组织可以实施定期审计，进而确保人工智能预测的一致性和准确性。

输出风险

输出风险是指一些可疑做法，会导致错误信息以及对人工智能系统的其他滥用。例如，恶意行为者可能使用生成式人工智能系统来制造虚假新闻、恶意软件，或用于其他与道德原则相冲突的目的。即使出于善意使用，缺乏理解也会产生有损诚信的结果。

只有在治理机构、私营部门和民间社会达成共识的情况下，才能安全地大规模实施人工智能系统。这些指导原则帮助组织大规模采用负责任的人工智能开发。

审慎

尽管人工智能系统有望推动行业转型，但组织应通过最佳的人工智能治理实践来降低其构成的风险。

敏捷

人工智能技术正在迅速发展，重大突破对传统的治理框架构成挑战。行业利益相关者需要反应灵敏、适应性强和可扩展的框架。

具有包容性

人工智能治理工作应让私营部门大量参与，因为后者开创了大多数人工智能创新。在实施人工智能技术时，采取协作努力可确保产生积极的社会影响。

无漏洞

人工智能治理应涵盖所有可能的使用案例、模型、开发和培训流程。这样可以防止因疏忽而使某些人工智能系统在既定法规范围之外运行。

定向

人工智能治理不依赖通用监管方法，而是针对特定行业或应用量身定制或缓解某些风险，这样会更有效。

人工智能治理旨在确保人工智能技术始终如一地做出公平且无偏见的决策。它还可以加强提高人工智能安全性和可解释性的工作。但是，人工智能系统的复杂性、应用和用途各不相同。为了更好地理解、解释和治理人工智能应用程序，将它们分为以下类别很有帮助。

消费类人工智能的使用

消费类人工智能是公众可以访问的软件。例如，ChatGPT 是一款由生成式人工智能提供支持的消费类应用程序。团队可以在不通知任何人的情况下使用消费类人工智能来执行日常任务。组织几乎无法控制人工智能如何收集、存储或处理员工向人工智能输入的数据。通常，必须让员工意识到他们在应用程序中提交的信息已存储并用于训练人工智能。

消费类人工智能需要强有力的治理策略和访问限制。教育员工和主要利益相关者了解使用此类公共应用程序的数据暴露风险至关重要。例如，组织可以成立企业人工智能道德委员会来审核此类人工智能应用程序的数据和隐私政策。然后，他们可以为员工和用户创建自己的人工智能使用指南和政策。

人工智能 API

这是指在企业应用程序中故意使用消费类人工智能系统。在这种情况下，组织直接订阅第三方人工智能服务。通常，它们将内部应用程序与供应商的专用应用程序编程接口（API）连接起来。组织以编程方式频繁地与第三方人工智能服务交换数据。

在使用企业人工智能应用程序时，监管外部人工智能系统可以访问的数据类型非常重要。如果人工智能提供商使用您的数据来训练他们的模型，则公众用户可能能够在结果中看到类似的数据。如果未经授权的人员访问 API 密钥，组织还应注意数据隐私和安全风险。

预训练的模型

预训练的模型是无需进一步训练即可部署的人工智能模型。但是，它们通常需要微调才能提供有用、准确和安全的响应。这样做时，您可能需要向模型提供其他数据。因此，重要的是要考虑用于微调的数据的敏感度以及公众暴露的风险。此外，预训练的模型还会从外部各方策划的数据集中学习。还存在由于训练数据集有偏见而导致输出不准确的风险。

经过微调的模型

经过微调的模型经过了微调和进一步完善。它们通常针对特定使用案例进行优化。如果您使用经过微调的模型，请考虑它学习所用数据的质量。与预训练的模型一样，由于训练或微调数据中的差异和限制，经过微调的模型可能会出现偏见。

自行训练的模型

这些是您可以从头开始训练的深度学习模型。该过程涉及数据准备、训练、审计和微调，这些环节容易面临各种风险，从而影响模型的预测。在这种情况下，人工智能治理包括从开发到训练的整个管线。

人工智能治理框架是使人工智能发展与道德、责任和法律要求保持一致的原则和建议。国际、区域和国家当局已经制定了跨行业治理和负责任地使用人工智能的框架。对人工智能的信任至关重要，而整合标准是帮助赢得公众信任和支持负责任使用方法的一种方式。我们在下面分享一些常见的框架。

ISO 42001

ISO 42001 是一项国际管理体系标准，为组织内部的人工智能系统管理提供了指导方针。它为组织建立了一个框架，以便系统性地应对和控制与开发和部署人工智能有关的风险。ISO 42001 强调对负责任的人工智能实践的承诺，鼓励组织采用针对其人工智能系统的控制措施。它支持全球互操作性，为负责任的人工智能的开发和部署奠定了基础。

AIGA

人工智能治理联盟（AIGA）是一个由全球行业领导者、学术机构、政府和民间社会组织组成的联盟。AIGA 发布了人工智能治理框架，帮助组织遵守欧盟人工智能法。该框架包含支持公平、安全和合乎道德地实施人工智能系统的指导方针。

NIST

美国国家标准与技术研究所（NIST）发布了一个框架，允许人工智能开发人员提高其人工智能系统的可信度。该框架有助于减轻组织和消费者在不断发展的人工智能技术中面临的风险。

应用这些方法可以帮助组织将负责任的人工智能治理框架转化为实际实施。

人机协同

生成式人工智能模型在无监督的情况下从未标记的数据集中学习。但是，应用人机协同学习可以让主题专家指导机器学习算法实现特定的结果。例如，医疗专业人员提供反馈，微调人工智能医疗系统以调整其行为。

可解释人工智能

可解释人工智能旨在帮助利益相关者了解人工智能模型做出具体决策的原因和方式。它运用机器学习技术，帮助开发人员更好地理解复杂的人工智能模型，尤其是任务关键型应用程序。例如，医生和患者想知道为什么医疗人工智能软件会产生特定的诊断。

数据治理

数据治理包括在整个人工智能开发生命周期中保护数据的策略、框架和技术。在训练和操作人工智能系统时，大量数据会在服务器之间移动，这需要在所有数据点采取适当的保护措施。除了保护隐私，数据治理还确保用于训练而整理的信息满足适当的质量要求。

由于所涉及的复杂性，开发符合人工智能法规和框架的人工智能解决方案具有挑战性。我们分享有帮助的最佳实践。

• 组建一个由机器学习工程师、数据科学家、伦理学家和法律专家组成的人工智能团队。
• 优先进行教育，以提高用户和更广泛的社区对人工智能使用及其影响的认识。
• 应用可解释的技术来评估人工智能系统的性能。如有必要，应用缓解措施来完善模型的响应。
• 持续监控人工智能系统在现实使用中的异常行为。立即采取行动，纠正偏见和不准确之处。
• 与其在每个工作流程中使用生成式人工智能技术，不如选择针对特定使用案例量身定制的人工智能系统。在更窄的范围内，监管和治理人工智能更容易。

AWS 允许组织构建和扩展生成式人工智能应用程序，同时遵守人工智能治理最佳实践。人工智能开发人员可以在 Amazon Bedrock 和 Amazon SageMaker JumpStart 上部署基础模型，因为他们知道我们不会使用您的数据训练模型，也不会与第三方提供商共享这些模型。

Amazon SageMaker 是一项完全托管的服务，它结合了广泛的工具集，可为任何使用案例实现高性能、低成本的人工智能开发。该服务提供专门构建的治理工具，可帮助您负责任地实施人工智能。例如，您可以使用：

• Amazon SageMaker 角色管理器，在几分钟内定义最低权限。
• Amazon SageMaker 模型卡，捕获、检索和共享基本模型信息。
• Amazon SageMaker 模型总览板，随时了解模型在生产中的行为。

整理、管理和保护海量训练数据集既具有挑战性又乏味。您可以在整个人工智能生命周期中，使用亚马逊的 300 多项安全和数据库服务来治理和管理您的数据集。例如，您可以使用：

• Amazon Macie，在训练人工智能模型时识别和保护敏感数据。
• AWS Control Tower，验证和授权用户访问 AWS 上的人工智能工作负载。
• AWS Lake Formation，管理和保护人工智能模型从单一位置使用的数据。

立即创建免费账户，开始在 AWS 上使用人工智能治理。