借助 Amazon Bedrock 快速体验生成式 AI

发布时间: 2024 年 4 月 24 日
生成式人工智能
机器学习和 AI
Amazon Bedrock
教程
亚马逊云科技
Olawale Olaleye
亚马逊云科技使用经验
初级
完成所需时间
开箱即用,不需部署
完成所需费用

按需计费:
文生文:假设每次输入输出 token 均为1k,则每次约 0.0437 美元
文生图:生成 512x512 图片,
step<51,每张约 0.018 美元;
step>51,每张约 0.036 美元

主题

AIGC

受众

人工智能应用程序开发人员,数据科学家,全栈开发人员,前端开发人员,业务开发人员

前提条件

海外区域: 注册 / 登录 亚马逊云科技
中国区域: 注册 / 登录 亚马逊云科技

上次更新时间
2024 年 4 月 24 日
相关行业

通用

相关产品

为什么选择 Amazon Bedrock

Amazon Bedrock 是一项完全托管的服务,使用单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型 (FM),以及构建生成式人工智能应用程序所需的一系列广泛功能,在维护隐私和安全的同时简化开发。借助 Amazon Bedrock 的全面功能,您可以轻松尝试各种热门 FM,使用微调和检索增强生成 (RAG) 等技术利用您的数据对其进行私人定制,并创建可执行复杂业务任务的托管代理,所有这些都无需编写任何代码。由于 Amazon Bedrock 是无服务器的,因此您无需管理任何基础设施,并且可以使用已经熟悉的 AWS 服务将生成式人工智能功能安全地集成和部署到您的应用程序中。

方案说明

本教程将借助 Amazon Bedrock 进行生成式 AI 的体验,Amazon Bedrock 提供来自 Anthropic、Cohere、Amazon 等多家人工智能公司的高性能模型,并提供控制台、API 的使用方式。本篇文章将使用控制台的方式,带领大家体验文生文、文生图、问答聊天的生成式 AI。

另:如果需要使用 AWS CLI 或 API 的方式体验 Amazon Bedrock 的生成式 AI,请跳转至 参考 章节中的 Amazon Bedrock 用户指导手册。

视频教程

区域支持

目前本解决方案使用的服务可能并非在所有亚马逊云科技区域都可用。您需要在提供所需服务的亚马逊云科技区域启动此解决方案。有关最新的区域可用性信息,请参阅亚马逊云科技区域支持列表。

支持部署的全球区域

区域名称

区域 ID

美国东部(弗吉尼亚)区域

us-east-1

美国西部(俄勒冈)区域

us-west-2

亚太地区(东京)区域

ap-northeast-1

亚太地区(新加坡)区域

ap-southeast-1

欧洲(法兰克福)区域

eu-central-1

操作步骤

第一步 - 设置请求访问模型

Amazon Bedrock 用户需要先请求访问模型,然后才能使用模型。 如果您想要添加用于文本、聊天和图像生成的其他模型,您需要请求访问 Amazon Bedrock 中的模型。请注意,只有具有所需 IAM 权限的用户才能管理此帐户的模型访问权限。

1. 登录您的亚马逊云科技账户,进入管理控制台,在控制台右上角选择您方案部署的区域。这里我选择了 us-west-2 进行实验演示。

2. 点击控制台的查找框,搜索 Amazon Bedrock,进入 Amazon Bedrock 的控制台界面,找到下图所示的“Model access”,点击“Manage model access”。

3. 可以看到 Amazon Bedrock 提供的模型,勾选我们需要的模型,并点击“Save changes”。设置好请求访问模型后,模型即刻便可访问。本次实验主要会用到 Anthropic-Claude、Meta-Llama、Stability AI-Stable Diffusion XL,因为是按需付费的方式,不用不会收费,这里我选择勾选了全部模型。

第二步 - 体验生成式 AI 的问答聊天

1. 在控制台的左侧选择 “Playgrounds” 下的 “Chat”,在右边选择一个基础模型提供商,并选择一个模型。在“Write a prompt...”处输入您的对话内容,并在右下角点击“Run”。

2. 这里,我选择了 Anthropic 的 Claude 3 Opus 模型,让其解答了一道经典的鸡兔同笼问题。

聊天框右侧的 “Configurations”,可以看到推理的默认配置。可以自定不同模型支持的推理配置参数,模型支持参数的含义详见这个文档描述。下方的 “Model metrics“ 可以显示模型指标用于评估模型,例如延迟,输入/输出令牌(Token)数。

打开右上角的 “Compare mode“,还可以使用相同的输入,同时对比评估多个模型的输出。

第三步 - 体验生成式 AI 的文本生成

1. 在控制台的左侧选择 “Playgrounds” 下的 “Text”,在右边选择一个基础模型提供商,并选择一个模型。在方框内输入您的指令内容,并在右下角点击“Run”。

2. 可以看到,这里,我选择了 Meta 的 Llama 3 70B Instruct 模型,并让其为我生成了一篇关于春天的公园里的景色的描述性文章。

注意,在控制台的右侧,可以调整一下配置(Configurations),将“Response length”调整到最大,可以获得更多的内容输出。

第四步 - 体验生成式 AI 的图像生成

1. 在控制台的左侧选择 “Playgrounds” 下的 “Image”,选择 Stability AI 的 SDXL 1.0 模型。

2. 输入 Prompt 提示词后,在右下角点击 “Run”,生成一张矿工肖像画。

提示词(Prompt):a portrait of an old coal miner in 19th century, beautiful painting with highly detailed face by greg rutkowski and magali villanueve

3. 提示词(Prompt)不变,调整配置(Configurations)的种子(Seed) 参数后,会生成一张不同的图片。

其中,点击高级配置(Advanced configurations)右侧的信息(info)可以看到,“Seed”是指初始噪声,使用相同的种子和相同的设置将创建相似的图像。

第五步 - 退出/清理环境

Amazon Bedrock 基于控制台的 Playgrounds 是开箱即用的,不使用时即为退出,不需要其它操作。

最后

更多基于 Amazon Bedrock 的高级别动手实验,如文本生成、文本总结、问答交互、聊天机器人、提示词工程、代码生成、代理、实体提取,请查看这篇文档

参考

现在就开始在亚马逊云上构建

无论您是在寻找计算能力、数据库、存储、内容分发、人工智能与机器学习,大数据分析还是其他功能,亚马逊云科技都有相应的服务来帮助您建立具有更高灵活性、可扩展性和可靠性的复杂应用。

企业出海或个人体验

超过 200 项服务
包含 80 余种产品免费试用

发展中国业务

近百项服务
包含宁夏区域 20 余种产品免费试用