什么是生成式 AI 隐私保护？

生成式 AI 隐私保护，是指在使用大模型的过程中，对个人信息与企业敏感数据的收集、传输、存储与使用进行管控，确保其符合隐私法规与企业策略的一系列措施。

它的一个核心关切是：调用大模型 API 时提交的数据，是否会被用于训练底层模型、是否会被留存或共享。这直接关系到数据的归属与使用边界，也是企业评估生成式 AI 服务时的重要考量。

隐私保护贯穿数据的整个生命周期，从收集、脱敏，到传输、存储与删除，都需要有相应的管控措施。

符合法规要求

各地区的隐私法规对个人信息的处理有明确要求。有效的隐私保护是企业合法合规使用生成式 AI 的前提。

维护用户信任

妥善保护用户的个人信息，是企业赢得并维系用户信任的基础。

控制数据使用边界

明确数据是否用于训练、是否隔离，帮助企业保有对自身数据的控制权，避免数据被以非预期的方式使用。

数据用途

明确提交的数据是否会被用于模型训练。这需要查阅并确认所用服务的数据使用条款。

数据隔离

确保客户数据与模型训练过程、与其他客户相隔离，以企业级服务的保障为准。

脱敏与最小化

对个人信息进行脱敏处理，并遵循数据最小化原则，只收集与使用必要的数据。

合规对齐

结合所在地区与行业的隐私法规，完善数据处理流程与合规措施。

涉及客户信息的应用

在处理客户个人信息的场景中，确保数据使用合规、可控。

内部敏感文档处理

对内部机密文档施加隔离与访问控制，防止敏感信息外泄。

跨区域业务

结合数据驻留与合规要求，合理规划数据的处理与存储位置。

隐私合规审计

记录数据的使用与流转，支撑隐私合规的内外部审计。

隐私保护与数据安全密切相关，但侧重点有所不同。

数据安全更侧重于防止数据被未授权访问、篡改或泄露，关注的是机密性、完整性与可用性等技术层面的保护；隐私保护则更强调对个人信息的合规使用，关注数据的收集是否正当、用途是否明确、是否符合法规与用户预期。可以说，数据安全是手段，隐私保护是目标之一——完善的数据安全措施是实现隐私保护的重要支撑。

在实践中，企业通常需要将两者结合：既通过加密、访问控制等手段保障数据安全，又通过用途管控、脱敏与合规对齐来实现隐私保护。

法规的多样与演进

不同地区的隐私法规存在差异且在不断演进，企业需要持续跟进并调整合规措施。

敏感信息的识别

在大量数据中准确识别需要保护的个人信息并非易事，需要专门的工具与流程支撑。

隐私与效用的平衡

过度脱敏可能影响数据的可用性与模型效果，如何在保护隐私与保留效用之间平衡是持续的课题。

AWS 通过数据隔离、加密与访问控制等能力，帮助企业在使用大模型时保护个人信息与敏感数据的隐私。

Amazon Bedrock

Amazon Bedrock 提供数据隔离保障：客户提交的数据不用于训练底层基础模型，也不与其他客户共享，帮助企业在保有数据控制权的前提下使用大模型。

Amazon Q Business

面向企业的安全问答助手，支持基于权限的访问控制，帮助企业将个人与敏感数据的使用限定在授权范围内。

AWS Key Management Service (KMS)

集中管理加密密钥，为数据加密提供支撑，帮助企业保护敏感数据的隐私。

现在就开始，在保护隐私的前提下使用生成式 AI—— 探索 Amazon Bedrock