Amazon Bedrock, Anthropic Claude 3 Sonnet 모델 정식 출시

2023년 9월, AWS는 Anthropic과의 전략적 협업을 발표했습니다. 각자의 기술과 전문성을 더 안전한 생성형 인공 지능(AI)에 결합하여 Anthropic의 Claude 파운데이션 모델(FM) 개발을 가속화하고 AWS 고객이 이 모델을 널리 이용할 수 있도록 했습니다. AWS 고객은 Amazon Bedrock에서 Anthropic의 Claude 모델의 고유한 기능을 미리 활용하여 사용자 경험을 재구상하고, 비즈니스를 혁신하며, 생성형 AI 여정을 가속화할 수 있습니다.

2023년 11월에는 Amazon Bedrock에서 Anthropic의 Claude 2.1에 액세스할 수 있게 되었습니다. Claude 2.1은 기업용 생성형 AI 구축을 위한 주요 기능을 제공합니다. Claude 2.1에는 20만 토큰 컨텍스트 창, 할루시네이션 비율 감소, 긴 문서에 대한 정확도 향상, 시스템 프롬프트와 함수 직접 호출 및 워크플로 오케스트레이션을 위한 베타 도구 사용 기능이 포함됩니다.

오늘 Anthropic은 Claude 3를 발표했습니다. Claude 3는 인텔리전스, 속도 및 비용을 비즈니스 요구 사항에 맞게 조합하여 선택할 수 있는 새로운 최첨단 AI 모델 제품군입니다. 이 제품군에는 세 가지 모델이 포함됩니다. Claude 3 Haiku는 거의 즉각적으로 응답하는 가장 빠르고 가장 작은 모델이고, Claude 3 Sonnet는 기술과 속도의 이상적인 균형을 이루는 모델이며, Claude 3 Opus는 고도로 복잡한 태스크에서 최고의 성능을 제공하는 가장 지능적인 모델입니다.

Anthropic의 Claude 3 Sonnet는 오늘부터 Amazon Bedrock에서 사용할 수 있으며 Claude 3 Opus와 Claude 3 Haiku도 곧 사용할 수 있게 됩니다. Claude 3 Sonnet 모델은 대부분의 워크로드에서 Claude 2 및 Claude 2.1보다 2배 빠르며 향상된 조향성과 새로운 이미지-텍스트 비전 기능을 제공합니다.

Amazon Bedrock에서 Claude 3 Sonnet을 사용하면 인텔리전스, 신뢰성 및 속도를 필요로 하는 기업을 위한 비용 효과적인 생성형 AI 애플리케이션을 구축할 수 있습니다. 이제 Anthropic의 최신 모델인 Claude 3 Sonnet를 Amazon Bedrock 콘솔에서 사용할 수 있습니다.

Anthropic의 Claude 3 Sonnet 소개
Amazon Bedrock의 새로운 Claude 3 Sonnet 모델에 대한 몇 가지 중요 사항은 다음과 같습니다.

2배 더 빠른 속도 – Claude 3는 속도가 크게 향상되었습니다. 대부분의 워크로드에서 Anthropic의 가장 성능이 뛰어난 모델인 Claude 2 및 Claude 2.1과 동일한 수준의 인텔리전스를 두 배 더 빠른 속도로 제공합니다. Claude 3 Sonnet의 이러한 속도와 기술은 지식 검색 또는 판매 자동화와 같이 신속한 응답이 요구되는 지능형 태스크가 필요한 작업에 적합합니다. 콘텐츠 생성, 분류, 데이터 추출, 연구 및 검색 또는 기술 자료에 대한 정확한 검색과 같은 사용 사례가 여기에 포함됩니다.

향상된 조향성 – AI 시스템의 조향성이 향상되어 출력을 더 잘 제어하고 예측 가능한 고품질 결과를 얻을 수 있습니다. 유해한 출력을 방지하기 위해 시스템의 가드레일과 경계를 이루는 질문에 대해 답변을 거부할 가능성이 훨씬 낮습니다. Claude 3 Sonnet는 조향이 쉽고 JSON과 같은 인기 있는 구조화된 출력 형식의 지시를 더 잘 따르기 때문에 엔터프라이즈 및 프론티어 애플리케이션을 더 쉽게 구축할 수 있습니다. 이는 자율 주행 자동차, 건강 및 의료 진단, 민감한 도메인(예: 금융 서비스)의 알고리즘 의사 결정과 같은 기업 사용 사례에서 특히 중요합니다.

이미지-텍스트 비전 기능 – Claude 3는 이미지를 처리하고 텍스트 출력을 반환하는 비전 기능을 제공합니다. 차트, 그래프, 기술 다이어그램, 보고서 및 기타 시각적 자산을 분석하고 이해하는 데 매우 능숙합니다. Claude 3 Sonnet는 이미지 처리 기능을 갖춘 동급 최고의 다른 모델과 비슷한 성능을 더 빠른 속도로 제공합니다.

언어 지원 확대 – Claude 3는 프랑스어, 일본어 및 스페인어 등 영어 이외의 언어를 이해하고 응답하는 능력이 향상되었습니다. Claude 3 Sonnet는 이와 같이 확장된 언어 범위를 통해 다양한 지역에서 다양한 언어로 AI 서비스를 필요로 하는 다국적 기업뿐만 아니라 미묘한 번역 서비스를 필요로 하는 기업에도 더 나은 서비스를 제공할 수 있습니다. Claude 3 Sonnet는 Anthropic이 초등학교 수학 문제(GSM8K 및 Hendrycks) 및 Codex(HumanEval)와 같은 평가에서 받은 점수에서 알 수 있듯이 코딩과 수학에도 더 강합니다.

Claude 3 Sonnet의 특징과 기능에 대해 자세히 알아보려면 AWS 설명서에서 Amazon Bedrock의 Anthropic Claude 및 Anthropic Claude 모델을 참조하세요.

Amazon Bedrock에서 Anthropic의 Claude 3 Sonnet 시작
Anthropic 모델을 처음 사용하는 경우 Amazon Bedrock 콘솔로 이동하고 왼쪽 하단 패널에서 모델 액세스를 선택합니다. Claude 3 Sonnet에 대해 별도로 액세스를 요청합니다.

콘솔에서 Claude 3 Sonnet를 테스트하려면 왼쪽 메뉴 창의 플레이그라운드에서 텍스트 또는 채팅을 선택하세요. 그런 다음 모델 선택을 선택하고 카테고리로 Anthropic을 선택한 다음 모델로 Claude 3 Sonnet을 선택합니다.

더 많은 Claude 프롬프트 예제를 테스트하려면 예제 로드를 선택합니다. 인용이 포함된 고급 Q&A, 설계 개요 작성, 비영어 콘텐츠 생성과 같은 Claude 3 관련 예제를 보고 실행할 수 있습니다.

API 요청 보기를 선택하면 AWS Command Line Interface(AWS CLI) AWS SDK의 코드 예제를 통해 모델에 액세스할 수도 있습니다. 다음은 AWS CLI 명령의 샘플입니다.

aws bedrock-runtime invoke-model \
    --model-id anthropic.claude-3-sonnet-v1:0 \
    --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \
    --cli-binary-format raw-in-base64-out \
    --region us-east-1 \
    invoke-model-output.txt

이미지-텍스트 비전 기능을 테스트하려면 이미지를 업로드합니다. 이 블로그 게시물의 기사 이미지를 업로드하고 이 이미지에 대한 자세한 설명을 받았습니다.

API를 통해 이미지를 처리하고 영어 및 기타 여러 언어로 텍스트 출력을 반환할 수 있습니다.

{
  "modelId": "anthropic.claude-3-sonnet-v1:0",
  "contentType": "application/json",
  "accept": "application/json",
  "body": {
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 1000,
    "system": "Please respond only in Spanish.",
    "messages": [
     {
      "role": "user",
      "content": [
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "iVBORw..."
          }
        },
        {
          "type": "text",
          "text": "What's in this image?"
        }
      ]
    }
   ]
  }
}

Anthropic의 Global Accounts 부문 Head인 Neerav Kingsland는 이번 출시를 기념하면서 Anthropic과 AWS의 파트너십이 가진 힘에 대해 이야기합니다.

“Anthropic은 본질적으로 세계에서 가장 안전한 대규모 언어 모델을 개발하려는 연구 회사입니다. Amazon Bedrock을 통해 당사는 이 기술을 전 세계 사용자에게 배포할 수 있는 기회를 얻었습니다. 데이터를 보호하면서 아주 안전한 방식으로요.”

정식 출시
Claude 3 Sonnet는 현재 미국 동부(버지니아 북부) 및 미국 서부(오레곤) 리전에서 사용할 수 있습니다. 향후 업데이트는 전체 리전 목록을 확인하세요. Anthropic의 Claude 3 Opus와 Haiku도 Amazon Bedrock에서 곧 사용할 수 있게 될 것입니다.

온디맨드 및 배치 모드를 사용하는 경우 모델 추론 및 사용자 지정에 대한 요금이 부과되며 시간 기준 약정 없이 사용량에 따른 요금으로 FM을 사용할 수 있습니다. 프로비저닝 처리량 모드에서는 특정 기본 모델 또는 사용자 지정 모델의 모델 단위를 구매할 수 있습니다. 자세히 알아보려면 Amazon Bedrock 요금을 참조하세요.

지금 바로 Amazon Bedrock 콘솔에서 Anthropic Claude 3 Sonnet를 사용해 보고, Amazon Bedrock용 AWS re:Post에 피드백을 보내거나 일반적인 AWS Support 문의를 통해 피드백을 보내 주세요.

– Channy