Anthropic 的 Claude 3 Haiku 模型现已在 Amazon Bedrock 上线

上周，Anthropic 宣布推出 Claude 3 基础模型系列。此系列共有三个模型：Claude 3 Haiku，这是速度最快、最紧凑的模型，可实现近乎即时的响应；Claude 3 Sonnet，这是平衡了技能和速度的理想模型；Claude 3 Opus，这个模型最智能，可在处理高度复杂的任务时提供顶级性能。AWS 还宣布了 Claude 3 Sonnet 在 Amazon Bedrock 正式全面上线。

今天，我们宣布 Claude 3 Haiku 在 Amazon Bedrock 上线。Claude 3 Haiku 基础模型是 Claude 3 系列中速度最快且最紧凑的模型，可实现近乎即时的响应，并带来模拟人类互动的无缝生成式人工智能（AI）体验。例如，它可以在不到三秒钟的时间内读取 arXiv（约 1 万个词元）上包含图表和图形的数据密集型研究论文。

借助 Amazon Bedrock 上的 Claude 3 Haiku，您可以为需要快速准确的目标绩效的企业，构建能够提供近乎即时响应的生成式人工智能应用程序。与 Sonnet 和 Opus 一样，Haiku 具备图像转文本视觉能力，能够理解包括英语在内的多种语言，并在 200k 上下文窗口中具有更高的可操控性。

Claude 3 Haiku 用例
与智能产品类别中的其他型号相比，Claude 3 Haiku 更智能、速度更快且价格更实惠。其回答简单查询和请求的速度无与伦比。您可以利用其超快的速度和更高的可操控性，创建能够无缝模仿人类互动的 AI 体验。

以下是使用 Claude 3 Haiku 的一些用例：

客户互动：提供快速准确的实时互动和翻译支持
内容审核：捕捉有风险的行为或客户请求
节省成本的任务：优化物流、库存管理，从非结构化数据中快速提取知识

要详细了解 Claude 3 Haiku 的特征和功能，请访问 Amazon Bedrock 上的 Anthropic Claude 和 AWS 文档中的 Anthropic Claude 模型。

Claude 3 Haiku 的实际应用
如果您是第一次使用 Anthropic 模型，请前往 Amazon Bedrock 控制台，然后在左下方窗格中选择模型访问权限。单独申请 Claude 3 Haiku 的访问权限。

要在控制台中测试 Claude 3 Haiku，请在左侧菜单窗格的平台下选择文本或聊天。然后选择选择模型，类别选择 Anthropic，模型选择 Claude 3 Haiku。

要测试更多 Claude 提示示例，请选择加载示例。您可以查看和运行特定于 Claude 3 Haiku 的示例，例如带引用的高级问答、制作设计简介和非英文内容生成。

您还可以借助比较模式，使用提示示例生成个性化的电子邮件回复来解决客户的问题，从而比较 Claude 3 Haiku 和 Claude 2.1 模型的速度和智能水平。

您还可以选择查看 API 请求，使用 AWS 命令行界面（AWS CLI）和 AWS SDK 中的代码示例访问模型。以下是 AWS CLI 命令的示例：

aws bedrock-runtime invoke-model \
     --model-id anthropic.claude-3-haiku-20240307-v1:0 \
     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \
     --cli-binary-format raw-in-base64-out \
     --region us-east-1 \
     invoke-model-output.txt

要通过 Claude 3 发出 API 请求，请使用新的 Anthropic Claude 消息 API 格式，该格式允许进行图像处理等更复杂的交互。如果使用 Anthropic Claude 文本补全 API，则应从文本补全 API 升级。

以下是发送描述图像文件的消息 API 请求的 Python 代码示例：

def call_claude_haiku(base64_string):

    prompt_config = {
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": [
                    {
                        "type": "image",
                        "source": {
                            "type": "base64",
                            "media_type": "image/png",
                            "data": base64_string,
                        },
                    },
                    {"type": "text", "text": "Provide a caption for this image"},
                ],
            }
        ],
    }

    body = json.dumps(prompt_config)

    modelId = "anthropic.claude-3-haiku-20240307-v1:0"
    accept = "application/json"
    contentType = "application/json"

    response = bedrock_runtime.invoke_model(
        body=body, modelId=modelId, accept=accept, contentType=contentType
    )
    response_body = json.loads(response.get("body").read())

    results = response_body.get("content")[0].get("text")
    return results

要了解 Claude 3 的更多代码示例，请参阅 Community.aws 中的开始使用 Amazon Bedrock 上的 Claude 3、使用 Amazon Bedrock 上的 Claude 3 绘制 CDK/Terraform 图表以及使用 Amazon Bedrock 上的 Anthropic Claude 3 Sonnet 预测板球比赛获胜者。

现已推出
Claude 3 Haiku 现已在美国西部（俄勒冈州）地区推出，即将在更多地区推出；请查看完整区域列表，了解未来动向。

Claude 3 Haiku 是最具成本效益的选择。例如，与 Claude Instant 相比，Claude 3 Haiku 每 1000 个输入/输出词元的价格便宜高达 68%，并且智能水平更高。要了解更多信息，请参阅 Amazon Bedrock 定价。

立即在 Amazon Bedrock 控制台中试用 Claude 3 Haiku，并将反馈发送至 AWS re:Post for Amazon Bedrock 或通过您常用的 AWS Support 联系人发送。

– Channy

亚马逊AWS官方博客

Anthropic 的 Claude 3 Haiku 模型现已在 Amazon Bedrock 上线