Amazon Bedrock, Anthropic의 Claude 3 Haiku 모델 정식 출시

지난 주 Anthropic에서 Claude 3 파운데이션 모델 제품군을 발표했습니다. 이 제품군에는 세 가지 모델이 포함됩니다. Claude 3 Haiku는 거의 즉각적으로 응답하는 가장 빠르고 가장 작은 모델이고, Claude 3 Sonnet은 기술과 속도의 이상적인 균형을 이루는 모델이며, Claude 3 Opus는 고도로 복잡한 태스크에서 최고의 성능을 제공하는 가장 지능적인 모델입니다. 또한 AWS는 Amazon Bedrock 기반 Claude 3 Sonnet의 정식 출시를 발표했습니다.

오늘은 Amazon Bedrock 기반 Claude 3 Haiku의 출시가 발표되었습니다. Claude 3 Haiku 파운데이션 모델은 Claude 3 제품군 중 가장 빠르고 컴팩트한 모델로, 거의 즉각적인 반응성과 인간의 상호 작용을 모방한 원활한 생성형 인공 지능(AI) 경험을 위해 설계되었습니다. 예를 들어, 차트와 그래프가 포함된 arXiv(~1만 개 토큰)에 대한 데이터 밀도가 높은 연구 논문을 3초 이내에 읽을 수 있습니다.

Amazon Bedrock에서 Claude 3 Haiku가 출시됨에 따라, 빠르고 정확한 목표 성능을 필요로 하는 기업을 위해 거의 즉각적으로 반응하는 생성형 AI 애플리케이션을 구축할 수 있습니다. Sonnet 및 Opus와 마찬가지로, Haiku는 이미지-텍스트 비전 기능을 갖추고 있고, 영어 이외의 여러 언어를 이해할 수 있으며, 20만 개의 컨텍스트 창에서 조향성이 향상되었습니다.

Claude 3 Haiku 사용 사례
Claude 3 Haiku는 인텔리전스 범주에 해당하는 다른 모델에 비해 더 스마트하고 빠르게 작동하며 경제적입니다. 타의 추종을 불허하는 속도로 단순 쿼리와 요청에 응답할 수 있습니다. 빠른 속도와 향상된 조향성을 통해 인간의 상호 작용을 원활하게 모방하는 AI 경험을 구축할 수 있습니다.

Claude 3 Haiku의 몇 가지 사용 사례는 다음과 같습니다.

고객 상호 작용: 실시간 상호 작용 및 번역에 대한 빠르고 정확한 지원
콘텐츠 조정: 위험한 행동 또는 고객 요청 파악
작업 비용 절감: 물류 최적화, 재고 관리, 비정형 데이터에서 지식을 빠르게 추출

Claude 3 Haiku의 특징과 기능에 대해 자세히 알아보려면 AWS 설명서에서 Amazon Bedrock 기반 Anthropic Claude 및 Anthropic Claude 모델을 참조하세요.

Claude 3 Haiku의 작동 방식
Anthropic 모델을 처음 사용하는 경우 Amazon Bedrock 콘솔로 이동하고 왼쪽 하단 패널에서 모델 액세스를 선택합니다. Claude 3 Haiku에 대해 별도로 액세스를 요청합니다.

콘솔에서 Claude 3 Haiku를 테스트하려면 왼쪽 메뉴 창의 플레이그라운드에서 텍스트 또는 채팅을 선택합니다. 그런 다음 모델 선택을 선택하고 범주로 Anthropic을 선택한 다음 모델로 Claude 3 Haiku를 선택합니다.

더 많은 Claude 프롬프트 예시를 테스트하려면 예시 로드를 선택합니다. 인용이 포함된 고급 Q&A, 설계 개요 작성, 비영어 콘텐츠 생성과 같은 Claude 3 Haiku 관련 예시를 보고 실행할 수 있습니다.

비교 모드를 사용하면, 샘플 프롬프트를 사용하여 고객 질문에 대한 맞춤형 이메일 응답을 생성하여 Claude 3 Haiku와 Claude 2.1 모델 간의 속도와 인텔리전스를 비교할 수도 있습니다.

API 요청 보기를 선택하면 AWS Command Line Interface(AWS CLI) 및 AWS SDK의 코드 예시를 사용하는 모델에 액세스할 수도 있습니다. 다음은 AWS CLI 명령의 샘플입니다.

aws bedrock-runtime invoke-model \
     --model-id anthropic.claude-3-haiku-20240307-v1:0 \
     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Amazon S3 버킷에 이미지를 업로드하기 위한 테스트 케이스를 작성합니다\\n알겠습니다! 다음은 JUnit 또는 Java용 TestNG와 같은 테스트 프레임워크를 사용하여 Amazon S3 버킷에 이미지를 업로드하는 테스트 케이스 예시입니다.\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \
     --cli-binary-format raw-in-base64-out \
     --region us-east-1 \
     invoke-model-output.txt

Claude 3로 API 요청을 하려면 이미지 처리와 같은 보다 복잡한 상호 작용을 허용하는 새로운 Anthropic Claude 메시지 API 형식을 사용하면 됩니다. Anthropic Claude 텍스트 완성 API를 사용 중인 경우 텍스트 완성 API에서 업그레이드해야 합니다.

다음은 이미지 파일을 설명하는 메시지 API 요청을 보내는 샘플 Python 코드입니다.

def call_claude_haiku(base64_string):

    prompt_config = {
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": [
                    {
                        "type": "image",
                        "source": {
                            "type": "base64",
                            "media_type": "image/png",
                            "data": base64_string,
                        },
                    },
                    {"type”: “text”, “text”: “이 이미지에 대한 캡션 입력"},
                ],
            }
        ],
    }

    body = json.dumps(prompt_config)

    modelId = "anthropic.claude-3-haiku-20240307-v1:0"
    accept = "application/json"
    contentType = "application/json"

    response = bedrock_runtime.invoke_model(
        body=body, modelId=modelId, accept=accept, contentType=contentType
    )
    response_body = json.loads(response.get("body").read())

    results = response_body.get("content")[0].get("text")
    return results

Claude 3를 사용한 샘플 코드에 대한 자세한 내용은 Amazon Bedrock 기반 Claude 3 시작하기, Amazon Bedrock 기반 Claude 3를 사용한 CDK/Terraform 다이어그램, Community.aws에서 Amazon Bedrock의 Anthropic Claude 3 Sonnet을 사용한 크리켓 경기 승리팀 예측을 참조하세요.

정식 출시
Claude 3 Haiku는 현재 미국 동부 (버지니아) 및 미국 서부(오레곤) 리전에서 이용할 수 있으며 곧 더 많은 리전이 추가될 예정입니다. 향후 업데이트는 전체 리전 목록을 확인하세요.

Claude 3 Haiku는 가장 가성비가 우수한 선택입니다. 예를 들어, Claude 3 Haiku는 Claude Instant에 비해 1,000개의 입출력 토큰당 가격이 최대 68%까지 저렴하며, 더 높은 수준의 인텔리전스를 제공합니다. 자세히 알아보려면 Amazon Bedrock 요금을 참조하세요.

지금 바로 Amazon Bedrock 콘솔에서 Claude 3 Haiku를 사용해 보고, Amazon Bedrock용 AWS re:Post에 피드백을 보내거나 일반적인 AWS Support 문의를 통해 피드백을 보내주세요.

— Channy

Amazon Web Services 한국 블로그

Amazon Bedrock, Anthropic의 Claude 3 Haiku 모델 정식 출시

주요 링크 모음

팔로우하기