本指南演示如何构建内部软件即服务 (SaaS) 平台，为组织内的不同业务部门或团队提供基础模型（例如通过 Amazon Bedrock 提供的模型）的访问权限。它可让您在允许不同团队都使用这些人工智能 (AI) 模型的情况下，集中管理和治理这些模型的使用。内部 SaaS 层专为内部使用而设计，不面向公众访问，并为团队使用基础模型提供标准化机制。这种方法可帮助团队近乎实时地跟踪其使用情况，以及每天汇总一次使用情况。

请注意：[免责声明]

架构图

下载架构图 PDF 
  • 为生成式人工智能配置多租户 SaaS 模型

  • 此架构图显示如何配置内部软件即服务（SaaS）模型以访问 AI 模型。下一个选项卡显示如何管理和跟踪每个租户的模型使用情况和成本。 

  • 跟踪生成式人工智能模型的成本和使用情况

  • 该架构图显示如何使用应用程序推理配置文件来跟踪和管理每个租户的模型使用情况及相关成本。租户可以代表组织内的个人用户、项目、团队或部门。 

开始使用

部署本指南

Well-Architected 支柱

当您在云中构建系统时，AWS Well-Architected Framework 可以帮助您了解所做决策的利弊。框架的六大支柱使您能够学习设计和操作可靠、安全、高效、经济高效且可持续的系统的架构最佳实践。使用 AWS 管理控制台中免费提供的 AWS Well-Architected Tool，您可以通过回答每个支柱的一组问题，根据这些最佳实践来检查您的工作负载。

上面的架构图是按照 Well-Architected 最佳实践创建的解决方案示例。要做到完全的良好架构，您应该遵循尽可能多的 Well-Architected 最佳实践。

  • Amazon Bedrock、Lambda、DynamoDB 和 Athena 都是 AWS 服务，可帮助您通过自动扩展以及简化部署和管理来实现卓越运营，提供完全托管和可扩展的数据库。通过配合使用这些服务，SaaS 层可以管理日益增长的需求，提供全面的使用情况和成本报告，并对不断变化的业务需求做出更快的响应。

    阅读《卓越运营》白皮书 

  • AWS Identity and Access Management (AWS IAM)、CloudTrail、VPC 和 SaaS 层可让您利用云技术保护数据、系统和资产，改善您的安全状况。具体而言，IAM 有助于确保用户和服务拥有必要的权限；CloudTrail 提供全面的审计跟踪记录；VPC 提供安全的网络边界以增强安全性；SaaS 产品提供托管安全服务。这些服务共同帮助保护本指南免受潜在威胁，并帮助保护您的数据和资源的机密性、完整性和可用性。

    阅读《安全性》白皮书 

  • DynamoDB 和 Amazon S3 为 SaaS 服务提供可扩展的持久数据存储，支持关键使用和成本数据的长期可用性和完整性。Lambda 提供无服务器、事件驱动的架构，可自动扩展以处理不断增加的工作负载，并提供可靠、响应迅速的性能。Athena 提供无服务器、可扩展的访问权限，用于分析存储在 Amazon S3 中的数据，从而生成可靠的报告和见解。Amazon Bedrock 消除了管理基础模型基础设施的复杂性，提高了 SaaS 服务的整体可靠性。总体而言，这些 AWS 服务为内部 SaaS 服务奠定了稳健、灵活的基础。

    阅读《可靠性》白皮书 

  • 内部 SaaS 服务利用 Lambda、DynamoDB、Athena 和 Amazon Bedrock 来提高其性能效率。Lambda 支持实施无服务器、事件驱动的架构，根据需求自动扩展计算资源。DynamoDB 是一项完全托管的 NoSQL 数据库服务，为 SaaS 服务的使用情况和成本数据提供低延迟数据存储和检索功能。 Athena 是一项无服务器的交互式查询服务，可对存储在 Amazon S3 中的 SaaS 服务的使用情况和成本数据进行高效、可扩展的分析。Amazon Bedrock 是一项用于部署和运行基础模型的托管服务，可优化 SaaS 服务访问最新人工智能模型的性能和效率。通过使用这些 AWS 服务，内部 SaaS 服务可以利用无服务器架构和托管数据库服务实现高性能效率，使服务能够有效扩展和执行，而无需管理底层基础设施的开销。

    阅读《性能效率》白皮书 

  • Amazon Bedrock、DynamoDB、Athena 和 Amazon S3 以多种方式共同优化了 SaaS 层的成本。Amazon Bedrock 是一项托管服务，可简化基础模型的部署和运行。它将基础设施管理任务抽象化，使 SaaS 服务能够专注于其核心功能，而无需管理底层资源。这有助于降低与基础设施管理相关的成本，并使 SaaS 服务能够随着使用量的增长而高效扩展。

    DynamoDB 是一项完全托管的 NoSQL 数据库服务，为 SaaS 服务的使用情况和成本数据提供经济高效的数据存储解决方案。DynamoDB 的可扩展性和自动预置功能有助于确保 SaaS 服务只针对实际消耗的资源收费，从而最大限度地减少超额预置，降低存储成本。

    Athena 是一项无服务器交互式查询服务，可对存储在 Amazon S3 中的 SaaS 服务使用情况和成本数据进行高效且具有成本效益的分析。Athena 的按查询付费定价模式可让 SaaS 服务运行临时查询并生成报告，但不会产生管理单独数据仓库的开销。这有助于降低数据存储和分析的相关成本。

    最后一点，Amazon S3 是一项可扩展且耐用的对象存储服务，为存储 SaaS 服务的使用情况和成本数据以及其他操作日志和构件优化了成本。Amazon S3 灵活的定价选项和实施生命周期策略的能力有助于根据使用模式自动扩展资源并删除未使用的数据，从而最大限度地降低存储成本。

    阅读《成本优化》白皮书 

  • 针对本指南选择的服务为构建和运行环境友好型和资源节约型应用提供了基础，从而促进可持续性。具体而言，Amazon Bedrock 通过高效的模型推理和工作负载编排来优化资源利用率并最大限度降低能耗，从而实现可持续的人工智能驱动自动化。AWS CloudFormation 通过自动进行基础设施预置和管理、减少人工干预需求，最大限度地减少资源浪费，从而促进可持续性。DynamoDB 提供无服务器且高度可扩展的数据库解决方案，可让用户根据需求自动扩展资源，从而优化资源利用率并最大限度地降低能耗。Lambda 提供无服务器计算环境，可根据工作负载需求动态分配资源，从而消除对闲置服务器的需求并降低总体能耗，从而支持可持续发展。最后一点，Amazon S3 提供耐用且可扩展的存储、优化资源利用率以及通过高效的数据存储和检索机制最大限度地降低能耗，来促进可持续性。

    阅读《可持续性》白皮书 

相关内容

免责声明

示例代码；软件库；命令行工具；概念验证；模板；或其他相关技术（包括由我方人员提供的任何前述项）作为 AWS 内容按照《AWS 客户协议》或您与 AWS 之间的相关书面协议（以适用者为准）向您提供。您不应将这些 AWS 内容用在您的生产账户中，或用于生产或其他关键数据。您负责根据特定质量控制规程和标准测试、保护和优化 AWS 内容，例如示例代码，以使其适合生产级应用。部署 AWS 内容可能会因创建或使用 AWS 可收费资源（例如，运行 Amazon EC2 实例或使用 Amazon S3 存储）而产生 AWS 费用。

本指南中提及第三方服务或组织并不意味着 Amazon 或 AWS 与第三方之间存在认可、赞助或从属关系。AWS 的指南是一个技术起点，您可以在部署架构时自定义与第三方服务的集成。

此页内容对您是否有帮助？

 反馈