跳至主要内容

借助 Amazon Bedrock 快速体验生成式 AI

发布时间: 2024 年 4 月 24 日

概述

亚马逊云科技使用经验:初级

完成所需时间:开箱即用,不需部署

完成所需费用:按需计费:

文生文:假设每次输入输出 token 均为1k,则每次约 0.0437 美元
文生图:生成 512x512 图片,
step<51,每张约 0.018 美元;
step>51,每张约 0.036 美元

主题:AIGC

受众:人工智能应用程序开发人员,数据科学家,全栈开发人员,前端开发人员,业务开发人员

前提条件:海外区域: 注册 / 登录 亚马逊云科技

上次更新时间:2024 年 4 月 24 日

相关行业:通用

相关产品:Amazon Bedrock

为什么选择 Amazon Bedrock

Amazon Bedrock 是一项完全托管的服务,使用单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型 (FM),以及构建生成式人工智能应用程序所需的一系列广泛功能,在维护隐私和安全的同时简化开发。借助 Amazon Bedrock 的全面功能,您可以轻松尝试各种热门 FM,使用微调和检索增强生成 (RAG) 等技术利用您的数据对其进行私人定制,并创建可执行复杂业务任务的托管代理,所有这些都无需编写任何代码。由于 Amazon Bedrock 是无服务器的,因此您无需管理任何基础设施,并且可以使用已经熟悉的 AWS 服务将生成式人工智能功能安全地集成和部署到您的应用程序中。

方案说明

本教程将借助 Amazon Bedrock 进行生成式 AI 的体验,Amazon Bedrock 提供来自 Anthropic、Cohere、Amazon 等多家人工智能公司的高性能模型,并提供控制台、API 的使用方式。本篇文章将使用控制台的方式,带领大家体验文生文、文生图、问答聊天的生成式 AI。

另:如果需要使用 AWS CLI 或 API 的方式体验 Amazon Bedrock 的生成式 AI,请跳转至 参考 章节中的 Amazon Bedrock 用户指导手册。

视频教程

区域支持

目前本解决方案使用的服务可能并非在所有亚马逊云科技区域都可用。您需要在提供所需服务的亚马逊云科技区域启动此解决方案。有关最新的区域可用性信息,请参阅亚马逊云科技区域支持列表。

第一步 - 设置请求访问模型

全部打开

Amazon Bedrock 用户需要先请求访问模型,然后才能使用模型。 如果您想要添加用于文本、聊天和图像生成的其他模型,您需要请求访问 Amazon Bedrock 中的模型。请注意,只有具有所需 IAM 权限的用户才能管理此帐户的模型访问权限。

架构图
登录您的亚马逊云科技账户,进入管理控制台,在控制台右上角选择您方案部署的区域。这里我选择了 us-west-2 进行实验演示。

架构图 点击控制台的查找框,搜索 Amazon Bedrock,进入 Amazon Bedrock 的控制台界面,找到下图所示的“Model access”,点击“Manage model access”。

架构图 可以看到 Amazon Bedrock 提供的模型,勾选我们需要的模型,并点击“Save changes”。设置好请求访问模型后,模型即刻便可访问。本次实验主要会用到 Anthropic-Claude、Meta-Llama、Stability AI-Stable Diffusion XL,因为是按需付费的方式,不用不会收费,这里我选择勾选了全部模型。

第二步 - 体验生成式 AI 的问答聊天

全部打开

架构图 在控制台的左侧选择 “Playgrounds” 下的 “Chat”,在右边选择一个基础模型提供商,并选择一个模型。在“Write a prompt...”处输入您的对话内容,并在右下角点击“Run”。

聊天框右侧的 “Configurations”,可以看到推理的默认配置。可以自定不同模型支持的推理配置参数,模型支持参数的含义详见 这个文档描述。下方的 “Model metrics“ 可以显示模型指标用于评估模型,例如延迟,输入/输出令牌 (Token) 数。

打开右上角的 “Compare mode“,还可以使用相同的输入,同时对比评估多个模型的输出。

架构图 

第三步 - 体验生成式 AI 的文本生成

全部打开

架构图 在控制台的左侧选择 “Playgrounds” 下的 “Text”,在右边选择一个基础模型提供商,并选择一个模型。在方框内输入您的指令内容,并在右下角点击“Run”。

2. 可以看到,这里,我选择了 Meta 的 Llama 3 70B Instruct 模型,并让其为我生成了一篇关于春天的公园里的景色的描述性文章。

注意,在控制台的右侧,可以调整一下配置(Configurations),将“Response length”调整到最大,可以获得更多的内容输出。

架构图 

第四步 - 体验生成式 AI 的图像生成

全部打开

架构图 在控制台的左侧选择 “Playgrounds” 下的 “Image”,选择 Stability AI 的 SDXL 1.0 模型。

提示词(Prompt):a portrait of an old coal miner in 19th century, beautiful painting with highly detailed face by greg rutkowski and magali villanueve

架构图 点击图片放大

其中,点击高级配置(Advanced configurations)右侧的信息(info)可以看到,“Seed”是指初始噪声,使用相同的种子和相同的设置将创建相似的图像。

架构图 点击图片放大

第五步 - 退出/清理环境

全部打开

Amazon Bedrock 基于控制台的 Playgrounds 是开箱即用的,不使用时即为退出,不需要其它操作。

免费套餐

企业出海或个人体验

超过 200 项服务

新用户可免费获得最高 $200 美元服务抵扣金,选择免费计划,零花费安心体验云服务

发展中国业务

近百项服务

包含宁夏区域 20 余种产品免费试用