Anthropic 的 Claude 3 Haiku 模型现已在 Amazon Bedrock 上线

上周，Anthropic 宣布推出 Claude 3 基础模型系列。此系列共有三个模型：Claude 3 Haiku，这是速度最快、最紧凑的模型，可实现近乎即时的响应；Claude 3 Sonnet，这是平衡了技能和速度的理想模型；Claude 3 Opus，这个模型最智能，可在处理高度复杂的任务时提供顶级性能。AWS 还宣布了 Claude 3 Sonnet 在 Amazon Bedrock 正式全面上线。

今天，我们宣布 Claude 3 Haiku 在 Amazon Bedrock 上线。Claude 3 Haiku 基础模型是 Claude 3 系列中速度最快且最紧凑的模型，可实现近乎即时的响应，并带来模拟人类互动的无缝生成式人工智能（AI）体验。例如，它可以在不到三秒钟的时间内读取 arXiv（约 1 万个词元）上包含图表和图形的数据密集型研究论文。

借助 Amazon Bedrock 上的 Claude 3 Haiku，您可以为需要快速准确的目标绩效的企业，构建能够提供近乎即时响应的生成式人工智能应用程序。与 Sonnet 和 Opus 一样，Haiku 具备图像转文本视觉能力，能够理解包括英语在内的多种语言，并在 200k 上下文窗口中具有更高的可操控性。

Claude 3 Haiku 用例
与智能产品类别中的其他型号相比，Claude 3 Haiku 更智能、速度更快且价格更实惠。其回答简单查询和请求的速度无与伦比。您可以利用其超快的速度和更高的可操控性，创建能够无缝模仿人类互动的 AI 体验。

以下是使用 Claude 3 Haiku 的一些用例：

客户互动：提供快速准确的实时互动和翻译支持
内容审核：捕捉有风险的行为或客户请求
节省成本的任务：优化物流、库存管理，从非结构化数据中快速提取知识

要详细了解 Claude 3 Haiku 的特征和功能，请访问 Amazon Bedrock 上的 Anthropic Claude 和 AWS 文档中的 Anthropic Claude 模型。

Claude 3 Haiku 的实际应用
如果您是第一次使用 Anthropic 模型，请前往 Amazon Bedrock 控制台，然后在左下方窗格中选择模型访问权限。单独申请 Claude 3 Haiku 的访问权限。

要在控制台中测试 Claude 3 Haiku，请在左侧菜单窗格的平台下选择文本或聊天。然后选择选择模型，类别选择 Anthropic，模型选择 Claude 3 Haiku。

要测试更多 Claude 提示示例，请选择加载示例。您可以查看和运行特定于 Claude 3 Haiku 的示例，例如带引用的高级问答、制作设计简介和非英文内容生成。

您还可以借助比较模式，使用提示示例生成个性化的电子邮件回复来解决客户的问题，从而比较 Claude 3 Haiku 和 Claude 2.1 模型的速度和智能水平。

您还可以选择查看 API 请求，使用 AWS 命令行界面（AWS CLI）和 AWS SDK 中的代码示例访问模型。以下是 AWS CLI 命令的示例：

aws bedrock-runtime invoke-model \
     --model-id anthropic.claude-3-haiku-20240307-v1:0 \
     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \
     --cli-binary-format raw-in-base64-out \
     --region us-east-1 \
     invoke-model-output.txt

要通过 Claude 3 发出 API 请求，请使用新的 Anthropic Claude 消息 API 格式，该格式允许进行图像处理等更复杂的交互。如果使用 Anthropic Claude 文本补全 API，则应从文本补全 API 升级。

以下是发送描述图像文件的消息 API 请求的 Python 代码示例：

def call_claude_haiku(base64_string):

    prompt_config = {
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": [
                    {
                        "type": "image",
                        "source": {
                            "type": "base64",
                            "media_type": "image/png",
                            "data": base64_string,
                        },
                    },
                    {"type": "text", "text": "Provide a caption for this image"},
                ],
            }
        ],
    }

    body = json.dumps(prompt_config)

    modelId = "anthropic.claude-3-haiku-20240307-v1:0"
    accept = "application/json"
    contentType = "application/json"

    response = bedrock_runtime.invoke_model(
        body=body, modelId=modelId, accept=accept, contentType=contentType
    )
    response_body = json.loads(response.get("body").read())

    results = response_body.get("content")[0].get("text")
    return results

要了解 Claude 3 的更多代码示例，请参阅 Community.aws 中的开始使用 Amazon Bedrock 上的 Claude 3、使用 Amazon Bedrock 上的 Claude 3 绘制 CDK/Terraform 图表以及使用 Amazon Bedrock 上的 Anthropic Claude 3 Sonnet 预测板球比赛获胜者。

现已推出
Claude 3 Haiku 现已在美国西部（俄勒冈州）地区推出，即将在更多地区推出；请查看完整区域列表，了解未来动向。

Claude 3 Haiku 是最具成本效益的选择。例如，与 Claude Instant 相比，Claude 3 Haiku 每 1000 个输入/输出词元的价格便宜高达 68%，并且智能水平更高。要了解更多信息，请参阅 Amazon Bedrock 定价。

立即在 Amazon Bedrock 控制台中试用 Claude 3 Haiku，并将反馈发送至 AWS re:Post for Amazon Bedrock 或通过您常用的 AWS Support 联系人发送。

– Channy

*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。

亚马逊AWS官方博客

Anthropic 的 Claude 3 Haiku 模型现已在 Amazon Bedrock 上线