亚马逊AWS官方博客

从对话到执行:基于 Amazon Bedrock Managed Agents 与 AWS Lambda MicroVMs 构建 AI Agent

摘要:如何让 AI Agent 从回答问题走向执行任务?本文介绍如何结合 Amazon Bedrock Managed Agents 与 AWS Lambda MicroVMs,为每个会话提供独立执行环境,并分享部署步骤、权限隔离、工作区持久化、按需挂起与恢复的实践及成本估算。


一、方案背景

当 AI Agent 从回答问题走向执行任务,应用就需要为它提供一个真正可用的工作环境。无论是运行命令、读写文件,还是处理用户上传的 PDF 和视频、查询 AWS 资源,开发团队通常都要解决两类问题:

1. Agent 的运行逻辑:如何组织执行循环、调用模型和选择工具,以及保存和压缩对话上下文。

2. Agent 的执行环境:命令在哪里运行,不同用户和会话如何隔离,空闲时如何控制成本,以及环境回收后如何保留文件。

Amazon Bedrock Managed Agents, powered by OpenAI(以下简称 BMA,目前处于公开预览阶段)提供了托管的 Agent 运行能力。应用创建会话并提交消息后,由服务管理 Agent 循环和对话上下文。在本文采用的自托管执行环境模式下,应用还需要提供运行 codex exec-server 的计算环境。

本文将 BMA 与 AWS Lambda MicroVMs 结合:前者负责 Agent 的运行逻辑,后者为每个会话提供独立的 MicroVM。基于这一方案,我们构建了一个可通过手机和桌面浏览器访问的 Agent 聊天应用,并在 us-east-1 完成测试。下文将介绍参考架构、部署步骤、会话隔离与持久化设计、成本估算,以及预览阶段的实践经验。

二、方案概览

[图 1 BMA 与 AWS Lambda MicroVMs 参考架构。编号 1 至 6 对应下文的会话流程;其余连线表示模型调用、工具调用及状态管理关系。]

从创建会话到执行任务,一次对话主要经过以下步骤:

1. 用户新建对话后,应用后端调用 BMA 的 CreateAgentSession,指定 self_hosted 执行环境,并获取 environment ID。

2. 应用后端调用 RunMicrovm,为该 environment 启动一台专属 MicroVM,再通过生命周期钩子将 environment ID 传入 VM。

3. VM 内的 codex exec-server 使用 environment ID 向 BMA 注册,并主动建立出站连接。因此,VM 无需为 BMA 开放入站端口。

4. 用户发送消息后,BMA 调用模型并决定需要执行的命令。这些命令通过第 3 步建立的连接下发到 VM,以普通用户 agent 的身份执行,执行结果再返回 BMA。

5. 应用后端将 BMA 的事件流实时转发给浏览器,并在每轮交互结束后归档对话历史,将工作区快照保存到 Amazon S3。

6. 用户停止操作后,VM 按配置在空闲 10 分钟时自动挂起,暂停计算计费。用户再次访问时,应用触发恢复;本次测试中,恢复至 exec-server 重新连接约需 1 秒。

三、方案的主要优势

减少 Agent 运行逻辑的开发工作。BMA 托管 Agent 循环、模型调用和对话上下文,应用后端主要负责会话编排、事件转发和状态管理。由于对话上下文保存在 BMA 服务端,更换执行环境不需要重新构建这部分状态。

以独立 VM 隔离会话。每个会话拥有自己的文件系统和进程空间,避免多个会话共享一台主机时的相互干扰。这也减少了应用自行维护目录隔离和进程边界的工作。

按使用量支付执行环境费用。MicroVM 按秒计费,空闲后可自动挂起。挂起期间不收取计算费用,但仍有快照存储费用,挂起和恢复也会产生快照读写费用。高峰时,VM 的资源可扩展至基线的 4 倍,减少为短时峰值预留资源的需求。

启动和恢复时间较短。在本次测试中,从调用 RunMicrovm 到 exec-server 建立连接耗时 4 至 21 秒;从挂起状态恢复并重新连接约需 1 秒。挂起 12 分钟后,工作区文件仍保持完整。

工具调用与命令执行分开管理。MCP 工具通过 connector_id 接入 Amazon Bedrock AgentCore Gateway,由 BMA 在服务端使用会话角色调用。VM 内无需运行工具代理,也无需保存这部分工具调用凭证;VM 自身的执行角色则单独管理。

沿用 AWS 的身份与运维体系。方案使用 IAM 管理身份和权限,通过 Lambda 托管的网络连接器配置网络,并结合 CloudTrail 审计和 CloudFormation 部署,便于纳入现有 AWS 运维流程。

四、前提条件

  • 一个 AWS 账号,区域选 BMA 预览支持的区域(us-east-1、us-west-2、us-east-2)。本文以 us-east-1 为例。
  • 账号已开通 BMA 预览,并能在 Bedrock 中使用所选的 OpenAI 模型(本文使用 openai.gpt-5.6-luna)。
  • 账号可以使用 AWS Lambda MicroVMs。
  • AWS CLI v2(需包含 lambda-microvms 命令)、Node.js 22 和 Python 3。

五、搭建步骤

5.1 创建 BMA 会话角色

BMA 使用会话角色代表应用调用模型和工具。授权应限制在应用实际使用的模型范围内;如果工具通过 AgentCore Gateway 提供,还需授予调用指定 Gateway 的 InvokeGateway 权限。

SessionRole:
  Type: AWS::IAM::Role
  Properties:
    AssumeRolePolicyDocument:
      Version: "2012-10-17"
      Statement:
        - Effect: Allow
          Principal: { Service: bedrock-mantle.amazonaws.com }
          Action: sts:AssumeRole
          Condition:
            StringEquals: { aws:SourceAccount: !Ref AWS::AccountId }
            ArnLike: { aws:SourceArn: !Sub "arn:${AWS::Partition}:bedrock-mantle:*:${AWS::AccountId}:*" }
    Policies:
      - PolicyName: session
        PolicyDocument:
          Version: "2012-10-17"
          Statement:
            - Effect: Allow
              Action: bedrock-mantle:CreateInference
              Resource: "*"
              Condition: { StringEquals: { bedrock-mantle:Model: openai.gpt-5.6-luna } }   # 只允许一个模型
            - Effect: Allow
              Action: bedrock-agentcore:InvokeGateway
              Resource: !Ref ToolsGatewayArn

5.2 创建 MicroVM 的构建角色和执行角色

  • 构建角色用于读取 S3 中的镜像构建产物,并写入构建日志。
  • 执行角色是 VM 内进程可使用的 AWS 身份,Agent 执行的命令也可能使用该身份。因此,应按实际需求授予最小权限:
  • exec-server 需要 bedrock-mantle:RegisterEnvironment 和 bedrock-mantle:ConnectEnvironment;
  • 如果 agent 要读用户附件,只给 uploads/* 前缀的 s 3:GetObject;
  • 授予写入运行日志所需的权限;
  • 如果 Agent 需要查看账号内的资源,可考虑 AWS 托管策略 ViewOnlyAccess。该策略主要用于列出资源及查看资源配置,避免直接授予范围更广、可能读取业务数据的 ReadOnlyAccess。部署时仍应检查策略的当前内容,并按应用需求进一步收敛权限。

两个角色的信任策略均指定 lambda.amazonaws.com,并添加 aws:SourceAccount 条件。

5.3 构建 MicroVM 镜像

MicroVM 镜像包含三个主要部分:提供 exec-server 的 codex、Agent 常用的命令行工具,以及管理 exec-server 生命周期的进程 vmagent。

FROM public.ecr.aws/lambda/microvms:al2023-minimal
RUN dnf install -y python3 tar xz unzip shadow-utils util-linux procps-ng poppler-utils git && dnf clean all
# Node 22 + codex(版本需 >= 0.154,exec-server 由 codex 提供)
RUN curl -fsSL https://nodejs.org/dist/v22.23.2/node-v22.23.2-linux-arm64.tar.xz \
      | tar -xJ -C /usr/local --strip-components=1 \
 && npm install -g @openai/codex@0.166.0
# agent 的命令以普通用户运行
RUN useradd -u 1000 -m -d /home/agent -s /bin/bash agent && install -d -o agent -g agent /workspace
COPY vmagent.py /opt/bma/vmagent.py
EXPOSE 8080 9000
CMD ["python3", "/opt/bma/vmagent.py"]

vmagent 监听两个端口:

端口 作用
9000(生命周期钩子,由 Lambda 调用) /ready:服务就绪。/run:接收 runHookPayload(environment ID、区域、这台 VM 的随机密钥)。/suspend:停止 exec-server(WebSocket 撑不过挂起)。/resume:启动一个新的 exec-server。/terminate:停止 exec-server
8080(控制 API,由应用后端调用) GET /status(是否已连上 BMA)、POST /start、POST /restart、POST /sh(以 root 运行一段维护脚本,例如下载附件、打包工作区)

exec-server 的启动命令:

runuser -u agent -- codex exec-server \
  --remote https://bedrock-mantle.us-east-1.api.aws/openai/v1 \
  --environment-id "$ENV_ID" --remote-transport direct \
  --aws-sigv4 --aws-service bedrock-mantle --aws-region us-east-1

将 Dockerfile 和 vmagent.py 打包为 zip 文件并上传到 S3,然后创建 MicroVM 镜像:

aws lambda-microvms create-microvm-image --cli-input-json '{
  "name": "bma-exec",
  "baseImageArn": "arn:aws:lambda:us-east-1:aws:microvm-image:al2023-1",
  "buildRoleArn": "arn:aws:iam::111122223333:role/bma-exec-build",
  "codeArtifact": { "uri": "s3://amzn-s3-demo-bucket/microvm-exec/code.zip" },
  "logging": { "cloudWatch": { "logGroup": "/aws/lambda-microvms/bma-exec" } },
  "egressNetworkConnectors": ["arn:aws:lambda:us-east-1:aws:network-connector:aws-network-connector:INTERNET_EGRESS"],
  "cpuConfigurations": [{ "architecture": "ARM_64" }],
  "resources": [{ "minimumMemoryInMiB": 2048 }],
  "hooks": {
    "port": 9000,
    "microvmHooks": { "run": "ENABLED", "runTimeoutInSeconds": 5, "resume": "ENABLED", "resumeTimeoutInSeconds": 5,
                      "suspend": "ENABLED", "suspendTimeoutInSeconds": 10, "terminate": "ENABLED", "terminateTimeoutInSeconds": 5 },
    "microvmImageHooks": { "ready": "ENABLED", "readyTimeoutInSeconds": 60 }
  }
}' --region us-east-1

后续可使用 update-microvm-image 更新镜像。每次更新都会生成新版本,已运行的 VM 继续使用原有版本,直到被替换。

5.4 创建 BMA 会话并启动专属 VM

应用后端在创建会话的请求中指定会话角色:

POST https://bedrock-mantle.us-east-1.api.aws/openai/v1/agents/sessions
{
  "role_arn": "arn:aws:iam::111122223333:role/BmaSessionRole",
  "agent": {
    "model": "openai.gpt-5.6-luna",
    "instructions": "You work on a Linux host ...",
    "tools": [
      { "type": "mcp", "server_label": "tools",
        "connector_id": "arn:aws:bedrock-agentcore:us-east-1:111122223333:gateway/tools-gw-xxxx" }
    ]
  },
  "environment": { "type": "self_hosted", "workspace_directory": "/workspace",
                   "capability_directories": ["/workspace/.skills/<conversation-id>"] },
  "stream": false
}

请求使用 SigV4 签名,服务名为 bedrock-mantle。响应中的 environment.id 用于将下一步启动的 VM 与该会话关联。

接着,为该 environment 启动 MicroVM:

const key = randomBytes(24).toString('base64url');           // 这台 VM 专用的控制 API 密钥
const r = await microvms.send(new RunMicrovmCommand({
  imageIdentifier: imageArn, imageVersion: '3.0', executionRoleArn,
  runHookPayload: JSON.stringify({ environmentId, region: 'us-east-1', key, start: false }),
  idlePolicy: { maxIdleDurationSeconds: 600, suspendedDurationSeconds: 28800, autoResumeEnabled: true },
  maximumDurationInSeconds: 28800,
}));
// 把 environmentId -> { microvmId: r.microvmId, endpoint: r.endpoint, key } 存进 DynamoDB

这里将 start 设置为 false,是为了先通过控制 API 写入当前会话所需的技能,再调用 /start 启动 exec-server。BMA 在会话初始化阶段读取技能目录,因此技能文件需要在 exec-server 首次连接前准备好。

应用后端访问控制 API 时需要同时提供两项认证信息:通过 CreateMicrovmAuthToken 获取的 IAM 认证令牌,放入 X-aws-proxy-auth 请求头;以及该 VM 专用的随机密钥,放入自定义请求头(例如 X-Bma-Key)。待 /status 返回 connected: true 后,应用再将会话标记为可用。

5.5 提交消息、转发事件

POST /openai/v1/agents/sessions/{session_id}/events
{ "events": [{ "type": "agent.session.input.message",
               "input": [{ "role": "user", "content": [{ "type": "input_text", "text": "列出工作区里的文件" }] }] }] }

应用通过服务器发送事件(SSE)实时展示执行进度,通过 GET …/items 读取已持久化的输出。在这一实现中,事件流负责前端展示,items 用于确认最终结果。

5.6 给应用后端授权

本文使用 Lambda Web Function 作为应用后端,其角色需要以下权限:

  • BMA 会话相关的 bedrock-mantle 操作,以及对会话角色的 iam:PassRole(条件 iam:PassedToService = bedrock-mantle.amazonaws.com);
  • 对镜像 ARN 的 lambda:RunMicrovm、GetMicrovm、ResumeMicrovm、SuspendMicrovm、TerminateMicrovm、CreateMicrovmAuthToken;
  • 对 AWS 托管网络连接器(arn:aws:lambda:<region>:aws:network-connector:aws-network-connector:*)的 lambda:PassNetworkConnector;
  • 对 MicroVM 执行角色的 iam:PassRole(条件 iam:PassedToService = lambda.amazonaws.com);
  • 访问 DynamoDB 表,以及 S3 中用于保存对话历史、附件和工作区快照的指定前缀。

测试中,我们使用 IAM 策略模拟器检查 lambda:PassNetworkConnector 时得到 implicitDeny,但实际调用 RunMicrovm 成功。对于这类差异,应结合实际调用结果与相关日志排查,不能仅凭模拟器结果判断配置是否可用。

六、会话隔离与持久化设计

对话上下文、进程内存、工作区文件和对话历史有不同的生命周期。将这些状态分开管理,可以明确哪些内容随 VM 保留,哪些需要由外部存储承接。

状态 存在哪里 能撑多久
对话上下文 BMA 会话(服务端) 会话存在期间一直保留,换 VM 不受影响
进程和内存 运行中或挂起的 MicroVM 挂起后保留内存和磁盘,最多 8 小时
工作区文件 VM 磁盘 + S3 快照 VM 内最多 8 小时;S3 快照按你设的生命周期规则保留(我们设的是 30 天不更新就过期)
对话历史 S3 归档 按你的策略;BMA 会话过期后仍可只读查看

6.1 隔离

  • 维护会话与执行环境的映射。一个 BMA 会话对应一个 environment,并在本方案中关联一台 VM。应用使用 DynamoDB 中的 ENV#<environment-id> 记录保存 VM 映射,供后续请求查找。
  • 以普通用户执行 Agent 命令。exec-server 及 BMA 下发的命令均以 agent 用户身份在 /workspace 中运行。vmagent 则以 root 身份管理生命周期和维护操作。控制 API 使用 IAM 令牌和每台 VM 的随机密钥进行认证,防止 Agent 命令直接调用管理接口。
  • 按 Agent 可使用执行角色的前提设计权限。Agent 可以运行 AWS CLI,也就可能使用执行角色凭证,因此该角色只应拥有任务确实需要的权限。工作区快照所在的 S3 前缀不向执行角色授权,上传和下载均通过应用后端为当前会话签发的预签名 URL 完成。
  • 区分管理入口与执行连接。VM 使用两个 AWS 托管网络连接器:需认证的 HTTP 入站连接器用于控制 API,互联网出站连接器用于对外访问。exec-server 与 BMA 的连接由 VM 主动发起。
  • 将资源清理纳入会话删除流程。删除对话时,应用依次删除 BMA 会话、终止 VM,并清理 S3 中的附件和工作区快照。

6.2 持久化设计中的三个关键场景

1. 执行环境空闲后的连接恢复。在 EC2 测试中,我们观察到执行环境空闲 8 至 11 分钟后,下一条消息可能提交失败,而连接双方尚未感知断开。采用 MicroVM 后,应用将空闲挂起阈值设为 600 秒,由 vmagent 的 /suspend 钩子停止 exec-server;请求触发恢复后,再由 /resume 钩子启动新的 exec-server。本次测试中,恢复至重新连接约需 1 秒。

2. 提交消息前确保执行环境就绪。在所测试的预览版本中,即使消息无需执行命令,BMA 也要求执行环境已连接。未连接时,提交请求会等待 300 秒,再返回 400 environment_connection_timeout。为减少这段等待,页面会在用户打开对话、切回页面或开始输入时,后台调用应用后端的 /warm 接口,提前恢复 VM 或启动新的 exec-server。这样可以利用用户输入的时间完成准备。本次测试中,预热耗时 0.9 秒,随后一轮交互耗时 1.7 秒。

3. VM 到期后的工作区恢复。MicroVM 的最长生命周期为 8 小时,包含运行和挂起时间,且该上限不可调整。VM 到期后,应用需要创建新的执行环境;新 VM 不包含旧 VM 的工作区文件,因此我们采用以下恢复流程:

  • 每轮交互结束后,应用后端通过控制 API,让 VM 以 agent 用户身份将 /workspace 打包为 tar.gz,并通过预签名 PUT 上传至 workspaces/<用户>/<对话>/workspace.tgz。上传前先计算文件清单的哈希,清单包括路径、大小、修改时间和权限;哈希未变化时跳过上传。
  • 创建新 VM 后,在调用 /start 启动 exec-server 之前,通过预签名 GET 下载快照并解压到工作区,确保 Agent 连接时文件已经恢复。
  • 恢复完成后,页面向用户展示执行环境已更换的提示,并说明工作区恢复到了哪个时间点。

测试中,3 MB 工作区的首次保存耗时 9.4 秒,无改动时的检查耗时 0.2 秒。终止旧 VM 后,新 VM 启动并恢复工作区共耗时 4.0 秒,恢复后的文件逐字节比对一致。这里的工作区快照仅保存文件,不包含运行中的进程和 /tmp。本实现将压缩后的快照上限设为 512 MB,超过上限则跳过保存。

6.3 其他实践

  • 为长回合保活。Lambda 的空闲判断只计入进入 VM 的流量,不将 exec-server 的出站连接视为活动。因此,执行时间超过 10 分钟的回合可能触发挂起。本实现会在回合进行期间,由应用后端每 120 秒调用一次 /status。
  • 重新建立执行环境时启动新进程。在本次测试中,执行环境连接丢失后,仅重连原有 exec-server 进程不足以恢复,需要启动新的进程并重新注册。
  • 谨慎处理提交失败后的重试。本实现先检查 BMA 的 items,确认其中没有该消息的记录后,才刷新执行环境并重试一次,以降低重复执行同一条指令的风险。
  • 保证跨实例读取映射的一致性。同一对话的请求可能落到不同的 Lambda 执行环境,因此应用将会话映射存入 DynamoDB,并使用 ConsistentRead 读取。
  • 明确技能与会话的绑定关系。BMA 在创建会话时读取工具和技能配置,之后登记的技能仅对新会话生效。应用可以展示当前会话创建时加载的能力,帮助用户理解不同会话之间的差异。
  • 通过 Gateway 接入工具。在所测试的预览版本中,BMA 不接受内置 web_search、computer_use_preview、code_interpreter、function、shell 或远程 server_url 配置。本方案将联网搜索及其他工具统一通过 AgentCore Gateway,以 connector_id 方式接入。

七、成本估算

BMA 的费用由两部分组成:模型推理,加上你的应用用到的 AWS 资源(官方文档:Charges)。下面估算执行环境部分;模型推理按 Amazon Bedrock 定价 中所选模型的 token 单价另算。

MicroVM 单价(us-east-1,Graviton,来自 AWS Lambda 定价页):

项目 单价
计算 $0.0000276944 / vCPU-秒,$0.0000036667 / GB-秒
快照写(挂起时) $0.0038 / GB
快照读(恢复或启动时) $0.00155 / GB
快照存储(挂起的 VM、镜像) $0.08 / GB-月(镜像存储最短计费 1 周)

按基线 1 vCPU、2 GB 内存计算,单台 VM 每小时计算费用约为 $0.126;超出基线的资源按实际用量另计。

以下以一个示例估算月度费用:100 名用户,每月使用 20 个工作日,每人每天创建一个对话,并作如下假设:

  • VM 每天累计运行 1 小时(包括每次最后一轮结束后、挂起前的 10 分钟空闲);
  • 每天挂起和恢复各 4 次,启动 1 次,其余约 7 小时处于挂起状态;
  • 每次快照按 2 GB 估算(与官方定价示例一致,实际大小取决于内存和磁盘用量);
  • 每份工作区快照平均为 20 MB,每天交互 10 轮,在工作区有变化时上传。
项目 计算 每月
MicroVM 计算 100 × 20 × 1 h × $0.126 $252.2
挂起时的快照写 100 × 20 × 4 × 2 GB × $0.0038 $60.8
恢复时的快照读 100 × 20 × 4 × 2 GB × $0.00155 $24.8
启动时的快照读 100 × 20 × 1 × 2 GB × $0.00155 $6.2
挂起期间的快照存储 100 × 2 GB × (7 h × 20 / 720 h) × $0.08 $3.1
镜像存储 2 GB × $0.08 $0.2
S3 工作区快照 约 40 GB 标准存储 + 约 2 万次 PUT 约 $1.0
执行环境合计 约 $348

作为参考,若为每位用户分配一台持续运行的 EC2 t4g.medium,以独立实例隔离执行环境,按需单价按 $0.0336/小时估算,100 台每月约需 $2,450。这一对比体现的是持续运行与间歇使用两种模式的差异,并不代表两种方案在所有负载下的成本关系。

上述估算未包含应用后端使用的 Lambda、CloudFront、WAF、DynamoDB 和 S3 对话历史存储等费用,也未包含模型推理费用。实际成本取决于请求量、数据量与模型使用情况。模型部分建议按每月回合数、每轮输入和输出 token 数,以及对应单价单独测算。

还可以从以下几方面调整执行环境成本:

  • 适当缩短 maxIdleDurationSeconds,减少空闲计算时间,同时评估更频繁挂起和恢复带来的快照读写费用;
  • 精简镜像和工作区,减少快照读写量;
  • 对于无需运行命令或处理文件的纯问答应用,评估不依赖自托管执行环境的方案。

八、预览期的限制与注意事项

  • BMA 处于公开预览阶段,API 和行为仍可能变化。本文所述预览支持 us-east-1、us-west-2 和 us-east-2。
  • MicroVM 的最长生命周期为 8 小时,且不可调整;需要长期保留的工作区文件应通过外部存储持久化。
  • 本文测试时,账号默认配额为:RunMicrovm 和 ResumeMicrovm 各每秒 5 次,SuspendMicrovm 每秒 2 次,每个镜像最多保留 50 个版本。高并发场景应提前评估并申请所需配额。Service Quotas 中还显示“ARM_64 MicroVM 最大分配内存 2048 MiB”。测试中,两台 2 GB VM 可同时运行;这一现象不足以确认该配额的完整语义,需要更大规格时应进一步核实。
  • 在所测试的预览版本中,BMA 的图片输入仅接受 data URL 形式的 input_image,每个不超过 1,048,576 个字符;input_file 和 HTTPS 图片地址会被拒绝。PDF、视频和 Office 文档等附件需要先放入工作区,再由 Agent 使用相应工具处理。
  • BMA 会话的技能和工具配置在创建时确定,所测试的预览版本未提供更新会话配置的接口。

九、清理资源

1. 删除应用中的全部对话,同时清理对应的 BMA 会话、MicroVM,以及 S3 中的附件和工作区快照。

2. 使用 aws lambda-microvms list-microvms 检查是否有残留 VM,必要时调用 terminate-microvm 终止。

3. 依次调用 delete-microvm-image-version 和 delete-microvm-image,删除镜像版本及镜像。同一镜像同一时间只能处理一个操作,因此应顺序执行。

4. 删除应用、MicroVM 角色、会话角色和 Gateway 对应的 CloudFormation 栈。对于配置为保留的 S3 桶和 DynamoDB 表,需另行清理。

十、总结

BMA 托管 Agent 循环和对话上下文,Lambda MicroVMs 则为每个会话提供可独立运行、按秒计费且支持挂起的执行环境。通过应用后端将两者连接起来,开发团队可以构建支持命令执行、文件处理和工具调用的 Agent 应用,并在会话之间建立独立的执行边界。

落地时,需要重点处理三个方面:

  • 通过预热与保活,保证提交消息和长回合执行期间的环境连接;
  • 通过 S3 工作区快照,在 MicroVM 到期或更换后恢复文件;
  • 以 Agent 能够使用执行角色凭证为前提,落实最小权限。

在本次测试中,这些设计减少了执行环境挂起、恢复和更换对用户操作的影响,也让对话状态与计算环境的生命周期可以分别管理。

➡️ 下一步行动:

相关产品:

  • AWS Lambda — 无需服务器即可运行代码
  • Amazon S3 — 适用于 AI、分析和存档的几乎无限的安全对象存储
  • Amazon Bedrock — 用于构建生成式人工智能应用程序和代理的端到端平台
  • Amazon DynamoDB — 无服务器分布式 NoSQL 数据库
  • Amazon IAM — 身份管理和访问权限

十一、参考资料

*前述特定亚马逊云科技生成式人工智能相关的服务目前在亚马逊云科技海外区域可用。亚马逊云科技中国区域相关云服务由西云数据和光环新网运营,具体信息以中国区域官网为准。

本篇作者

薛东

AWS解决方案架构师,负责基于AWS云平台的解决方案咨询和设计,目前在亚马逊云科技大中华区服务教育行业客户。专注于无服务,安全等技术方向。

田原

AWS 解决方案架构师,专注于DevOps, 加入AWS之前一直从事运维相关的工作。在自动化运维方面有丰富的经验


AWS 架构师中心:云端创新的引领者

探索 AWS 架构师中心,获取经实战验证的最佳实践与架构指南,助您高效构建安全、可靠的云上应用