Amazon Bedrock 文档

Amazon Bedrock 是一项完全托管的服务，通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等人工智能公司的基础模型（FM），以及通过安全性、隐私性和负责任的人工智能构建生成式人工智能应用程序所需的一系列广泛功能。使用 Amazon Bedrock，您可以试验和评估适合您的应用场景的热门 FM，通过微调和检索增强生成（RAG）等技术利用您的数据对其进行私人定制，并构建使用您的企业系统和数据来源执行任务的代理。由于 Amazon Bedrock 是无服务器的，因此您无需管理任何基础设施，并且可以使用已经熟悉的 AWS 服务将生成式人工智能功能集成和部署到您的应用程序中。

Amazon Bedrock 代理可根据开发人员提供的说明、完成任务所需的 API 详细信息以及来自知识库的公司数据来源详细信息创建提示。

Amazon Bedrock 代理旨在安全地连接到您公司的数据来源，将数据转换为数值形式，并使用正确的信息补充用户请求，以生成回应。

客户只需点击几下即可创建 Amazon Bedrock 代理，从而缩短在应用程序中构建生成式人工智能功能所需的时间。客户首先选择他们想要的模型，然后用自然语言写一些指令。代理协调和分析任务，并使用 FM 的推理能力将其分解为正确的逻辑顺序。代理调用必要的 API 与公司系统和流程进行交易来满足请求，并在此过程中确定他们是否可以继续或是否需要收集更多信息。 

您可以使用跟踪功能逐步完成代理的推理和编排计划。借助这些洞察，您可以解决不同的编排问题，以引导模型实现所需的行为，从而获得更好的用户体验。此外，您还可以在迭代应用程序时查看步骤并调整说明。通过了解模型的推理，您可以更快地创建差异化的应用程序。

Amazon Bedrock 代理会根据用户说明、操作组和知识库创建提示模板。您可以以此模板为基准，进一步细化生成的提示模板，从而提升用户体验。您还可以更新用户输入、编排计划和 FM 响应。最后，通过修改提示模板的能力，您可以更好地控制代理编排。

Amazon Bedrock 让使用各种基础模型进行构建就像调用 API 一样简单。Amazon Bedrock 提供对领先模型的访问，包括 AI21 Labs 的 Jurassic、Anthropic 的 Claude、Cohere 的 Command and Embed、Meta 的 Llama 2 和 Stability AI 的 Stable Diffusion，以及我们自己的 Amazon 基础模型。借助 Amazon Bedrock，您可以选择最适合您的应用场景和应用程序要求的基础模型。

您可以使用交互式平台试用不同的基础模型，包括文本、聊天和图像。平台允许您针对您的应用场景尝试各种模型，以感受模型是否适合给定任务。

Amazon Bedrock 上的模型评估允许您使用自动和人工评估来为特定应用场景选择 FM。自动模型评估使用精选的数据集并提供预定义的指标，包括准确性、鲁棒性和毒性。对于主观指标，只需使用 Amazon Bedrock 单击几下即可设置人工评估工作流程。通过人工评估，您可以引入自己的数据集并定义自定义指标，例如相关性、风格和与品牌声音的一致性。人工评估工作流程可以利用您自己的员工作为审核者，也可以聘请 AWS 管理的团队来执行人工评估，其中 AWS 将聘请熟练的评估人员并代表您管理端到端工作流程。

只需点击几下，即可通过 Amazon Bedrock 从通用模型转变为专为您的业务和应用场景定制的模型。 您可以使用一种称为微调的技术来针对特定任务调整基础模型。只需指向 Amazon Simple Storage Service（S3）存储桶中的一些标记示例，Amazon Bedrock 就会复制基本模型，使用您的数据对其进行训练，并创建一个只有您可以访问的微调模型，以便您获得自定义响应。 可以对 Command、Llama 2、Amazon Nova Micro、Amazon Nova 简捷版、Amazon Nova Pro、Amazon Titan Text 简捷版和快捷版、Amazon Titan 图像生成器和 Amazon Titan 多模态嵌入模型进行微调。 您还可以通过持续预训练在 Amazon Bedrock 中调整 Amazon Titan Text 简捷版和快捷版基础模型，这是一种使用未标记数据集为您的领域或行业定制基础模型的技术。 通过微调和持续的预训练，Amazon Bedrock 会为您创建基础 FM 的私密自定义副本。您的数据不会用于训练原始基本模型。您用于自定义模型的数据旨在通过您的 Amazon Virtual Private Cloud（VPC）安全传输。

无论选择哪种模型，您都可以使用单一 API 进行推理。通过单一 API，您可以灵活地使用来自不同模型提供商的不同模型，并且只需对代码做出最少的更改，即可与最新的模型版本保持同步。

Amazon Bedrock 的防护机制会根据特定使用案例的策略评估用户输入和 FM 响应，无论底层 FM 如何，均提供额外的保障措施。防护机制可以应用于 FM 中，包括 Anthropic Claude、Meta Llama 2、Cohere Command、AI21 Labs Jurassic、Amazon Nova Micro、Amazon Nova Lite、Amazon Nova Pro、Amazon Titan Text、Amazon Titan 图像生成器，以及经过微调的模型和自托管模型。客户可以创建多个防护机制，每个防护机制均配置不同的控件组合，并可以在不同的应用程序和应用场景中使用这些防护机制。防护机制还可以与 Amazon Bedrock 代理和 Amazon Bedrock 知识库集成，以构建符合您负责任的人工智能策略的生成式人工智能应用程序。

组织认识到需要管理生成式人工智能应用程序中的交互，以提供有针对性及安全的用户体验。他们希望进一步自定义交互，继续关注与业务相关的话题，并与公司政策保持一致。Amazon Bedrock 防护机制使用简短的自然语言描述，允许您在应用程序的上下文中定义一组要避免的主题。防护机制可检测并屏蔽属于受限主题的用户输入和 FM 响应。

Amazon Bedrock 防护机制提供带有可配置阈值的内容筛除条件，可以按仇恨、侮辱、性和暴力类别筛选有害内容。大多数 FM 已经提供了内置保护措施，以防止产生有害响应。除这些保护措施外，防护机制还允许您配置不同类别的阈值，以筛除掉有害的交互。防护机制会自动评估用户查询和 FM 响应，以检测并帮助阻止属于受限类别的内容。

Amazon Bedrock 的防护机制允许您检测用户输入和 FM 响应中的个人身份信息（PII）。根据应用场景，您可以选择性地拒绝包含 PII 的输入或编辑 FM 响应中的 PII。

为了向 FM 提供最新的专有信息，组织使用了检索增强生成（RAG），该技术可从公司数据来源获取数据，并丰富提示以提供更相关和更准确的响应。Amazon Bedrock 知识库是一项完全托管的功能，可帮助您实施从摄取到检索和提示增强的整个 RAG 工作流程，而无需构建与数据来源的自定义集成或管理数据流。内置会话上下文管理，因此您的应用程序可以轻松支持多轮对话。

指向您的数据在 Amazon S3 中的位置，Amazon Bedrock 知识库会获取文档，将它们分成文本块，将文本转换为嵌入并将嵌入存储在您的向量数据库中。如果您当前没有向量数据库，Amazon Bedrock 会为您创建一个 Amazon OpenSearch 无服务器向量存储区。您也可以在其中一个受支持的数据库中指定现有的向量存储，包括 Amazon OpenSearch 无服务器、Pinecone 和 Redis Enterprise Cloud，对 Amazon Aurora 和 MongoDB 的支持功能即将推出。

您可以使用检索 API 从知识库中获取用户查询的相关结果。RetrieveAndGenerate API 使用检索到的结果来增强 FM 提示并返回响应。您还可以向 Amazon Bedrock 代理添加知识库，以便为代理提供上下文信息。

从 Amazon Bedrock 知识库检索到的所有信息均附有引文，可提高透明度并最大限度地减少幻觉。

借助 Amazon Bedrock，您可以完全控制用于为生成式人工智能应用程序自定义基础模型的数据。传输中数据和静态数据都会被加密。此外，您还可以使用 AWS Key Management Service（AWS KMS）创建、管理和控制加密密钥。基于身份的策略可以进一步控制您的数据，帮助您管理用户和角色可以对哪些资源执行哪些操作以及在什么条件下执行。

Amazon Bedrock 有助于确保您保持对数据的控制。向 Amazon Bedrock 上的 FM 提供的客户输入和从中生成的输出不会与第三方模型提供商共享，也不会用于训练或改进基础 FM。当您在 Amazon Bedrock 上微调 FM 时，我们会以该模型的私有副本为基础进行调整。您可以使用 AWS PrivateLink 建立从 Amazon Virtual Private Cloud（VPC）到 Amazon Bedrock 的私有连接，而无需将 VPC 暴露给互联网流量。

Amazon Bedrock 提供监控和日志记录功能，可为您的治理和审计需求提供支持。您可以使用 Amazon CloudWatch 跟踪使用情况指标，并构建带有可用于审计的指标的自定义控制面板。在将其他系统集成到您的生成式人工智能应用程序时，您还可以使用 AWS CloudTrail 监控 API 活动并解决问题。您也可以选择将元数据、请求和响应存储在您的 Amazon S3 存储桶以及 Amazon CloudWatch Logs 中。 最后，为了防止潜在的滥用行为，Amazon Bedrock 实施了自动检测滥用机制。

有关服务控制、安全特征和功能的更多信息，包括有关存储、检索、修改、限制和删除数据的信息（如适用），请参阅 https://docs.aws.amazon.com/index.html。就 https://aws.amazon.com/agreement/ 上的 AWS 客户协议或您与 AWS 之间签订的管理您使用 AWS 服务的其他协议而言，此信息不构成文档的一部分。