利用 Amazon Bedrock 为残障人士构建无服务器语音聊天机器人

立即注册账号

登录控制台管理

本页导读

解决方案概述前提条件部署应用程序使用 Amplify 自动部署应用手动部署应用配置 IAM 权限测试使用示例无服务器应用清理资源总结

难度

300 - 高级

时间

20 分钟

前提条件

海外区域：注册 / 登录亚马逊云科技

上次更新时间

2024 年 10 月 1 日

解决方案概述

下图展示了解决方案的架构。

部署此架构时，我们需要可以托管 Web 应用、身份验证机制和相关权限的托管计算服务。我们将在本文后面章节讨论具体细节。

我们使用的所有服务都是无服务器服务，并完全由 AWS 托管。因此，无需预置计算资源。只需通过服务对应的 API 调用服务。所有服务调用请求都直接从客户端应用发起。

该应用是使用 Vite 构建工具创建的一款简单的 React 应用。我们使用 AWS SDK for JavaScript 来调用所使用的 AWS 服务。该解决方案主要使用了以下服务：

Amazon Polly：将文本转换成自然语音。
Amazon Transcribe：一项 AWS AI 服务，可直接将语音转换成文本。
Amazon Bedrock：一项全托管服务，提供多种高性能基础模型 (FM) 以及构建生成式 AI 应用所需的各种功能。
Amazon Cognito：用于实现 Web 应用和移动应用的身份识别。它既用作用户目录，身份验证服务器，也是 OAuth 2.0 访问令牌和 AWS 凭证的授权服务。

使用 AWS 服务时，用户需要从 AWS Identity and Access Management (IAM) 获取临时凭证。Amazon Cognito 身份池解决了这个问题，它充当了应用用户和 IAM 服务之间的中介。该身份池保存 IAM 角色的信息，这些角色需要拥有运行解决方案所需的所有权限。

除了上面介绍的，使用 Amazon Polly 和 Amazon Transcribe 不需要你在客户端上进行其他设置。但 Amazon Bedrock 需要指定用户身份验证。这意味着仅拥有 Amazon Cognito 身份池是不够的，还需要使用 Amazon Cognito 用户池。你需要定义用户，并将用户绑定到 Amazon Cognito 身份池。要更好地了解 Amazon Cognito 如何允许外部应用调用 AWS 服务，请参阅使用 Amazon Cognito 联合身份、Amazon Cognito 用户池和 Amazon API Gateway 实现安全 API 访问。

AWS Amplify 承担了预置 Amazon Cognito 用户池和身份池的重任，包括为 React 应用生成登录 UI。Amplify 由一系列工具（开源框架、可视化开发环境、控制台）和服务（Web 应用和静态网站托管）组成，帮助客户加快在 AWS 上开发移动应用和 Web 应用的速度。在后面的章节中，我们将介绍设置 Amplify 的步骤。

前提条件

在开始实验之前，请确保满足以下前提条件：

确保已安装以下程序：
- Node.js
- npm
- git
已创建一个在 Amazon Cognito 身份池中使用的 IAM 角色。根据最小权限原则，仅授予该角色运行应用所需的最小权限集合。

以下代码用于调用 Amazon Bedrock：

{
					  "Version": "2012-10-17",
					  "Statement": [
						{
						  "Sid": "VisualEditor1",
						  "Effect": "Allow",
						  "Action": "bedrock:InvokeModel",
						  "Resource": "*"
						}
					  ]
					}

以下代码用于调用 Amazon Polly：

{
					  "Version": "2012-10-17",
					  "Statement": [
						{
						  "Sid": "VisualEditor2",
						  "Effect": "Allow",
						  "Action": "polly:SynthesizeSpeech",
						  "Resource": "*"
						}
					  ]
					}

以下代码用于调用 Amazon Transcribe：

{
				  "Version": "2012-10-17",
				  "Statement": [
					{
					  "Sid": "VisualEditor3",
					  "Effect": "Allow",
					  "Action": "transcribe:StartStreamTranscriptionWebSocket",
					  "Resource": "*"
					}
				  ]
				}

完整的策略 JSON 应如下所示：

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "VisualEditor1",
      "Effect": "Allow",
      "Action": "bedrock:InvokeModel",
      "Resource": "*"
    },
    {
      "Sid": "VisualEditor2",
      "Effect": "Allow",
      "Action": "polly:SynthesizeSpeech",
      "Resource": "*"
    },
    {
      "Sid": "VisualEditor3",
      "Effect": "Allow",
      "Action": "transcribe:StartStreamTranscriptionWebSocket",
      "Resource": "*"
    }
  ]
}

3. 运行以下命令克隆 GitHub 存储库：

git clone https://github.com/aws-samples/serverless-conversational-chatbot.git

4. 设置 Amplify。请参阅设置 Amplify CLI 完成初始设置。

5. 为了与后续指令中使用的值保持一致，请在看到以下提示时，将该 AWS 配置文件命名为 amplify。

6. 使用 AdministratorAccess-Amplify 系统策略创建 amplifyconsole-backend-role 角色。该权限策略允许 Amplify 创建必要的资源。

7. 在本文中，我们使用的是 Anthropic Claude 3 Haiku 大语言模型。在 Amazon Bedrock 中启用大语言模型相关操作说明，请参阅访问 Amazon Bedrock 基础模型。

部署应用程序

可以使用以下两种方式部署应用程序：

使用 Amplify 自动部署应用
手动部署应用

在本小节中，我们提供了这两种方式的具体操作步骤。

使用 Amplify 自动部署应用

Amplify 可以自动部署存储在 GitHub、Bitbucket、GitLab 或 AWS CodeCommit 中的应用程序。将之前下载的应用程序上传到你的首选存储库（上述支持的存储库之一）。有关详细说明，请参阅将应用部署到 Amplify Hosting 入门指南。

部署完成后，你可以继续进行下一步：设置 IAM 权限。

手动部署应用

如果你没有使用之前提到的存储库，可以手动部署应用。如果你想修改应用，使其更适合你的使用场景，这种方式也很有用。

我们在 AWS Cloud9（一个用于编写、运行和调试代码的云集成开发环境 (IDE)）上使用 Ubuntu Server 22.04 和 Amazon Linux 2023 测试了部署。

我们使用 Visual Studio Code IDE，并直接在 IDE 内的终端窗口中运行以下命令，但你也可以在你所使用的其他终端上运行这些命令。

1. 在从 GitHub 上克隆的应用目录中，运行以下命令：

cd serverless-conversational-chatbot

2. 运行以下命令：

npm i

amplify init

3. 按照如下屏幕截图所示的提示操作。

对于身份验证，选择你在前提条件步骤中创建的 AWS 配置文件 amplify。

项目中 src 文件夹下将出现两个新文件：
- amplifyconfiguration.json
- aws-exports.js

4. 接下来，运行以下命令：

amplify configure project

然后选择 “Project information”（项目信息）

5. 输入以下信息：

Which setting do you want to configure? Project information

Enter a name for the project: servrlsconvchat

Choose your default editor: Visual Studio Code

Choose the type of app that you're building: javascript

What javascript framework are you using: react

Source Directory Path: src

Distribution Directory Path: dist

Build Command: npm run-script build

Start Command: npm run-script start

你可以使用现有 Amazon Cognito 身份池和用户池或创建新对象。

6. 对于这个应用，运行以下命令：

amplify add auth

如果收到以下消息，可直接忽略：

Auth has already been added to this project. To update run amplify update auth

7. 选择 Default configuration（默认配置）。

8. 接受提示建议的所有选项。

9. 运行以下命令：

amplify add hosting

10. 选择托管选项。

你可以使用以下两种方式来托管应用。可将应用托管到 Amplify 控制台或 Amazon Simple Storage Service (Amazon S3)，然后通过 Amazon CloudFront 公开。

使用 Amplify 控制台托管不同于 CloudFront 和 Amazon S3 托管。Amplify 控制台是一项托管服务，提供持续集成与交付 (CI/CD) 以及 SSL 证书，优先快速部署无服务器 Web 应用和后端 API。相比之下，CloudFront 和 Amazon S3 提供了更大的灵活性和自定义选项，尤其是托管需要缓存和分发功能的静态网站和资产。CloudFront 和 Amazon S3 更适合具有特定性能和安全需求的复杂、高流量 Web 应用。

在此次实验中，我们使用的是 Amplify 控制台。要了解有关使用 Amazon S3 和 Amazon CloudFront 进行部署的更多信息，请参阅文档。