亚马逊AWS官方博客

Anthropic 的 Claude 3 Sonnet 基础模型现已在 Amazon Bedrock 中推出



2023 年 9 月,我们宣布与 Anthropic 开展战略合作,将他们在更安全的生成式人工智能(AI)方面的技术和专业知识汇集起来,加速开发 Anthropic 的 Claude 基础模型(FM)的开发,并使其广泛地为 AWS 客户所使用。您可以在 Amazon Bedrock 中抢先体验 Anthropic 的 Claude 模型的独特功能,以重构用户体验、重塑业务并加快您的生成式人工智能旅程。

2023 年 11 月,Amazon Bedrock 提供了对 Anthropic Claude 2.1 的访问权限,该版本提供了为企业构建生成式人工智能的关键功能。Claude 2.1 包括 20 万个令牌上下文窗口、更低的幻觉率、更高的长文档和系统提示的准确性,以及用于函数调用和工作流程编排的测试版工具使用功能。

今天,Anthropic 宣布推出 Claude 3,这是新系列的先进人工智能模型,允许客户选择适合其业务需求的智能、速度和成本的精确组合。该系列中的三个模型分别是 Claude 3 Haiku,这是最快、最紧凑的模型,可实现近乎即时的响应;Claude 3 Sonnet,平衡了技能和速度的理想模型;Claude 3 Opus,一款能在高度复杂任务上实现更出色性能的更加智能的产品。

我们还宣布,Anthropic 的 Claude 3 Sonnet 今天已在 Amazon Bedrock 中推出,而 Claude 3 Opus 和 Claude 3 Haiku 也即将推出。对于绝大多数工作负载来说,Claude 3 Sonnet 模型比 Claude 2 和 Claude 2.1 快两倍,具有更高的可操纵性和新的图像转文本视觉能力。

随着 Claude 3 Sonnet 在 Amazon Bedrock 中的推出,您可以构建经济实惠的生成式人工智能应用程序,为需要智能、可靠性和速度的企业提供服务。您现在可以在 Amazon Bedrock 控制台中使用 Anthropic 的最新模型 Claude 3 Sonnet。

Anthropic Claude 3 Sonnet 简介
以下是 Amazon Bedrock 中全新 Claude 3 Sonnet 模型的一些主要亮点:

速度快 2 倍 – Claude 3 在速度方面取得了显著提升。对于绝大多数工作负载,它的速度是 Anthropic 性能最高的模型 Claude 2 和 Claude 2.1 的两倍,而且智能水平相同。这种速度和技能的结合,使得 Claude 3 Sonnet 成为需要快速响应的智能任务的明确选择,比如知识检索或销售自动化。这包括内容生成、分类、数据提取、研究和检索以及在知识库上进行准确搜索等使用场景。

更高的可操纵性 – 人工智能系统的可操纵性的提高使用户可以更好地控制输出,并提供可预测的、更高质量的结果。它更不可能回答接近系统边界的问题,以防止产生有害输出。Claude 3 Sonnet 更易于操纵,并且更善于遵循流行的结构化输出格式(如 JSON)的指示,使开发人员更容易构建企业和前沿应用程序。这在企业使用案例中尤为重要,例如自动驾驶车辆健康和医疗诊断以及金融服务等敏感领域的算法决策。

图像转文本的视觉能力 – Claude 3 提供视觉能力,可以处理图像并返回文本输出。它非常擅长分析和理解图表、图形、技术图表、报告和其他视觉资产。Claude 3 Sonnet 的性能与其他具有图像处理能力的优质模型相当,但它同时还保持了显著的速度优势。

扩展了语言支持 – Claude 3 在除英语以外的其他语言中的理解和响应能力得到了改善,例如法语、日语和西班牙语。这种扩展的语言覆盖范围使得 Claude 3 Sonnet 能够更好地为需要跨不同地域和语言的人工智能服务的跨国公司提供服务,并且为需要细致翻译服务的企业提供支持。Claude 3 Sonnet 在编程和数学方面的实力也更强,Anthropic 在小学数学问题(GSM8K 和 Hendrycks)和 Codex(HumanEval)等评估中的分数就证明了这一点。

要详细了解 Claude 3 Sonnet 的特性和功能,请访问 Amazon Bedrock 上的 Anthropic Claude 和 AWS 文档中的 Anthropic Claude 模型

开始在 Amazon Bedrock 中使用 Anthropic 的 Claude 3 Sonnet
如果您是第一次使用 Anthropic 模型,请前往 Amazon Bedrock 控制台,然后在左下方窗格中选择模型访问权限。单独申请 Claude 3 Sonnet 的访问权限。

要在控制台中测试 Claude 3 Sonnet,请在左侧菜单窗格的操场下选择文本聊天。然后选择选择模型,类别选择 Anthropic,模型选择 Claude 3 Sonnet

要测试更多 Claude 提示示例,请选择加载示例。您可以查看和运行 Claude 3 的特定示例,例如带引用的高级问答、制作设计简介和非英文内容生成。

通过选择查看 API 请求,您还可以通过 AWS 命令行界面(AWS CLI)和 AWS SDK 中的代码示例访问模型。以下是 AWS CLI 命令的示例:

aws bedrock-runtime invoke-model \
--model-id anthropic.claude-3-sonnet-v1:0 \
--body "{\"prompt\":\"Write the test case for uploading the image to Amazon S3 bucket\\nHere are some test cases for uploading an image to an Amazon S3 bucket:\\n\\n1. **Successful Upload Test Case**:\\n   - Test Data:\\n     - Valid image file (e.g., .jpg, .png, .gif)\\n     - Correct S3 bucket name\\n     - Correct AWS credentials (access key and secret access key)\\n   - Steps:\\n     1.Initialize the AWS S3 client with the correct credentials.\\n     2.Open the image file.\\n     3.Upload the image file to the specified S3 bucket.\\n     4.Verify that the upload was successful.\\n   - Expected Result: The image should be successfully uploaded to the S3 bucket.\\n\\n2. **Invalid File Type Test Case**:\\n   - Test Data:\\n     - Invalid file type (e.g., .txt, .pdf, .docx)\\n     - Correct S3 bucket name\\n     - Correct AWS credentials\\n   - Steps:\\n     1.Initialize the AWS S3 client with the correct credentials.\\n     2.Open the invalid file type.\\n     3.Attempt to upload the file to the specified S3 bucket.\\n     4.Verify that an appropriate error or exception is raised.\\n   - Expected Result: The upload should fail with an error or exception indicating an invalid file type.\\n\\nThese test cases cover various scenarios, including successful uploads, invalid file types, invalid bucket names, invalid AWS credentials, large file uploads, and concurrent uploads.By executing these test cases, you can ensure the reliability and robustness of your image upload functionality to Amazon S3.\",\"max_tokens_to_sample\":2000,\"temperature\":1,\"top_k\":250,\"top_p\":0.999,\"stop_sequences\":[\"\\n\\nHuman:\"],\"anthropic_version\":\"bedrock-2023-05-31\"}" \
--cli-binary-format raw-in-base64-out \
--region us-east-1 \
invoke-model-output.txt

如果您想测试图像转文本的视觉能力,请上传您的图像。我上传了这篇博文的主要图像,并收到了该图像的详细描述。

您可以通过 API 处理图像并返回英语和其他多种语言的文本输出。

{
  "modelId": "anthropic.claude-3-sonnet-v1:0",
  "contentType": "application/json",
  "accept": "application/json",
  "body": {
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 1000,
    "system": "Please respond only in Spanish.",
    "messages": {
      "role": "user",
      "content": [
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "iVBORw..."
          }
        },
        {
          "type": "text",
          "text": "What's in this image?"
        }
      ]
    }
  }
}

为了庆祝此次发布,Anthropic 的 Head of Global Accounts Neerav Kingsland 谈到了 Anthropic 和 AWS 合作的力量。

“Anthropic 的核心是一家科研公司,它正在努力建立世界上最安全的大型语言模型。通过 Amazon Bedrock,我们有机会将这项技术分发给全球用户,并以极其安全和数据安全的方式进行此项工作。”

现已推出
Claude 3 Sonnet 现已在美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)地区推出;查看完整区域列表,了解未来的更新。Anthropic 的 Claude 3 Opus 和 Haiku 也即将在 Amazon Bedrock 中推出。

您需要为按需和批处理模式的模型推理和自定义付费,这使您可以通过按使用量付费的方式使用 FM,而无需做出任何基于时间的期限承诺。使用预置吞吐量模式,您可以为特定的基础模型或自定义模型购买模型单位。要了解更多信息,请参阅 Amazon Bedrock 定价

立即在 Amazon Bedrock 控制台中试试 Anthropic Claude 3 Sonnet 吧,然后将反馈发送至 Amazon Bedrock AWS re:Post,也可以通过您常用的 AWS Support 联系人发送。

Channy