Amazon Web Services 한국 블로그
Anthropic Claude 3.5 Sonnet 모델 Amazon Bedrock 정식 출시: Claude 3 Opus 보다 1/5의 비용에 높은 지능 제공
Anthropic이 요구 사항에 맞는 지능, 속도, 비용의 적절한 조합을 선택할 수 있게 해주는 최첨단 인공 지능(AI) 모델 제품군인 Claude 3을 출시한지 겨우 3개월이 지났습니다.
오늘 Anthropic은 곧 출시될 Claude 3.5 모델 제품군 중 첫 번째로 Claude 3.5 Sonnet를 출시했습니다. 이제 Claude 3.5 Sonnet를 Amazon Bedrock에서 사용할 수 있습니다.
Claude 3.5 Sonnet는 기존에 Anthropic의 가장 지능적인 모델인 Claude 3 Opus를 포함한 광범위한 평가에서 다른 생성형 AI 모델을 능가하여 인텔리전스에 대한 업계의 기준을 끌어올렸습니다. Claude 3.5 Sonnet는 오리지널 Claude 3 Sonnet 모델의 속도와 비용으로 제공됩니다. Claude 3.5 Sonnet가 Opus보다 80% 저렴하기 때문에 이제 Claude 3 Opus보다 5분의 1 가격으로 더 나은 지능과 속도를 얻을 수 있습니다.
Claude 3.5 Sonnet가 보여주는 프론티어 인텔리전스와 비용 효율적인 가격 책정이 결합된 이 모델은 상황에 맞는 고객 지원, 다단계 워크플로 조정, 코드 번역 간소화와 같은 복잡한 작업에 이상적입니다.
Claude 3.5 Sonnet는 학부 수준의 전문 지식(MMLU), 대학원 수준의 전문가 추론(GPQA), 코드(HumanEval) 등에 대한 새로운 업계 벤치마크를 설정합니다. 다음 표에서 볼 수 있듯이 Anthropic에 따르면 Claude 3.5 Sonnet는 거의 모든 벤치마크에서 OpenAI의 GPT-4o와 Google의 Gemini 1.5 Pro를 능가합니다.
또한 Claude 3.5 Sonnet는 Anthropic의 가장 강력한 비전 모델이기도 해서, 대부분의 비전 벤치마크에서 Claude 3 Opus보다 평균 10% 더 나은 성능을 보였습니다. Anthropic에 따르면 Claude 3.5 Sonnet는 거의 모든 범주에서 다른 생성형 AI 모델보다 성능이 뛰어납니다.
Anthropic Claude 3.5 Sonnet 주요 개선 사항
Claude 3.5 Sonnet의 출시는 여러 영역에서 상당한 개선을 실현하여 소프트웨어 개발자와 기업에 새로운 생성형 AI 기반 역량을 제공합니다. 이 새 모델의 주요 강점은 다음과 같습니다.
시각적 처리 및 이해 – Claude 3.5 Sonnet는 이미지 처리, 특히 차트 및 그래프 해석에서 놀라운 능력을 보여줍니다. 불완전한 이미지에서 텍스트를 정확하게 기록하여 텍스트만 사용하는 것보다 많은 인사이트를 그래픽 또는 일러스트레이션에서 얻을 수 있습니다. 이는 소매, 물류 및 금융 서비스와 같은 산업의 핵심 기능입니다. Claude 3.5 Sonnet를 사용하여 시각적 데이터 처리 작업을 자동화하고, 중요한 정보를 추출하고, 데이터 분석 파이프라인을 개선할 수 있습니다.
글쓰기 및 콘텐츠 생성 – Claude 3.5 Sonnet는 뉘앙스와 유머를 이해하는 능력이 크게 향상되었습니다. 이 모델은 보다 자연스럽고 인간적인 어조로 더욱 사실적이고 공감할 수 있는 고품질 글쓰기 콘텐츠를 생성합니다. 이 모델을 사용하여 몰입적이고 매력적인 콘텐츠를 생성하고, 글쓰기 워크플로를 간소화하고, 스토리텔링 능력을 향상할 수 있습니다.
고객 지원 및 자연어 처리 – Claude 3.5 Sonnet는 상황에 대한 이해가 향상되고 다단계 워크플로 오케스트레이션을 통해 복잡한 고객 문의를 처리하는 데 탁월합니다. 이 기능을 통해 24시간 지원, 더 빠른 응답 시간, 보다 자연스러운 상호 작용이 가능하여 궁극적으로 고객 만족도가 향상됩니다. 이 모델을 사용하여 고객 지원 프로세스를 자동화 및 개선하고 최종 사용자에게 원활한 경험을 제공할 수 있습니다. 유사한 구현의 예를 보려면 DoorDash가 Amazon Bedrock에서 Anthropic의 Claude 3 모델을 사용하여 생성형 AI 셀프 서비스 고객 센터 솔루션을 구축한 방법을 참조하세요.
분석 및 인사이트 – Claude 3.5 Sonnet는 비정형 데이터를 손쉽게 탐색하고 여러 도구를 사용하여 인사이트를 생성함으로써 데이터 과학에서 인간의 전문성을 강화합니다. 비즈니스 전략부터 실시간 제품 동향에 이르기까지 고품질 통계 시각화 및 실행 가능한 예측을 제공합니다. Claude 3.5 Sonnet를 사용하여 데이터 분석 워크플로를 간소화하고, 귀중한 인사이트를 발견하고, 데이터 기반 의사 결정을 촉진할 수 있습니다.
코딩 및 소프트웨어 개발 – Claude 3.5 Sonnet는 관련 도구가 함께 제공되면 정교한 추론 및 문제 해결 기능을 통해 코드를 독립적으로 작성, 편집, 실행할 수 있습니다. Claude 3.5 Sonnet를 사용하여 개발자 워크플로를 간소화하고, 코딩 작업을 가속화하고, 수동 작업을 줄이고, 전반적인 생산성을 향상할 수 있습니다.
Amazon Bedrock 콘솔에서 Anthropic Claude 3.5 Sonnet 사용
새 모델이기 때문에 Claude 3.5 Sonnet에 액세스할 수 있도록 Amazon Bedrock 콘솔로 이동하고 탐색 창에서 Model access를 선택합니다.
이제 모델에 액세스할 수 있게 되었으니 이 모델을 사용하여 Our World in Data 웹 사이트의 다음 이미지에서 정보를 추출해 보겠습니다.
탐색 창의 Playgrounds 섹션에서 Chat을 선택하고 Anthropic, Claude 3.5 Sonnet를 모델로 선택합니다. 그런 다음 Image 업로드 버튼을 선택하여 이전 이미지를 업로드하고 다음 프롬프트를 입력한 다음 Run을 선택합니다.
Which countries consume more than 1000 TWh from hydropower? Think step by step and look at all regions. Output in JSON.
다음은 프롬프트의 결과와 제가 수행한 작업을 요약한 애니메이션 이미지입니다.
비정형 데이터(예: 이미지)에서 정보를 안정적으로 추출하는 이 모델의 기능은 새로운 가능성을 열어줍니다.
플레이그라운드 창 모서리에 있는 세 개의 작은 점을 선택하고 View API request를 선택하여 AWS Command Line Interface(AWS CLI) 및 AWS SDK에서 모델을 사용한 코드 예제를 살펴보겠습니다. 코드 구문을 좀 더 자세히 살펴보죠.
AWS SDK에서 Claude 3.5 Sonnet 사용
새로운 Amazon Bedrock Converse API 또는 Anthropic Claude Messages API를 사용하여 모든 AWS SDK에서 Claude 3.5 Sonnet를 사용할 수 있습니다.
Claude 3 모델을 이미 사용하고 있는 코드를 업데이트하려면 모델 ID를 다음으로 바꾸면 됩니다.
anthropic.claude-3-5-sonnet-20240620-v1:0
다음은 Converse API에서 이미지와 텍스트를 사용하는 방법을 보여주기 위해 이전과 동일한 이미지를 사용하여 AWS SDK for Python(Boto3)으로 구현한 샘플입니다.
import boto3
from botocore.exceptions import ClientError
MODEL_ID = "anthropic.claude-3-5-sonnet-20240620-v1:0"
IMAGE_NAME = "primary-energy-hydro.png"
bedrock_runtime = boto3.client("bedrock-runtime", region_name="us-east-1")
with open(IMAGE_NAME, "rb") as f:
image = f.read()
user_message = "Which countries consume more than 1000 TWh from hydropower? Think step by step and look at all regions. Output in JSON."
messages = [
{
"role": "user",
"content": [
{"image": {"format": "png", "source": {"bytes": image}}},
{"text": user_message},
],
}
]
response = bedrock_runtime.converse(
modelId=MODEL_ID,
messages=messages,
)
response_text = response["output"]["message"]["content"][0]["text"]
print(response_text)실행하면 콘솔에서와 비슷한 출력이 나타납니다.
JSON 구문을 지정하지 않았기 때문에 두 답변은 다른 형식을 사용합니다. 애플리케이션에서 프롬프트에 원하는 JSON 속성을 설명하거나 출력의 표준 형식을 가져오기 위한 샘플을 제공할 수 있습니다.
더 많은 예제는 Amazon Bedrock 사용 설명서의 코드 샘플을 참조하세요. 고급 사용 사례를 위해, 다음은 생성형 AI 모델을 사용자 지정 도구 또는 API와 연결하는 방법을 보여주는 완전한 기능을 수행하는 도구 사용 데모입니다.
AWS CLI에서 Claude 3.5 Sonnet 사용
명령줄의 속도를 능가하는 것은 없을 때가 있습니다. AWS CLI에서 새 모델을 사용할 수 있는 방법은 다음과 같습니다.
출력에서는 query 옵션을 사용하여 출력 메시지의 내용만 가져옵니다.
[
{
"text": "Let's approach this step-by-step:\n\n1. First, we need to understand the relationships:\n - Alice has N brothers\n - Alice has M sisters\n\n2. Now, let's consider Alice's brother:\n - He is one of Alice's N brothers\n - He has the same parents as Alice\n\n3. This means that Alice's brother has:\n - The same sisters as Alice\n - One sister more than Alice (because Alice herself is his sister)\n\n4. Therefore, the number of sisters Alice's brother has is:\n M + 1\n\n Where M is the number of sisters Alice has.\n\nSo, the answer is: Alice's brother has M + 1 sisters."
}
]text를 작은 Python 프로그램에 복사하여 여러 줄로 출력되는 것을 확인합니다.
print("Let's approach this step-by-step:\n\n1. First, we need to understand the relationships:\n - Alice has N brothers\n - Alice has M sisters\n\n2. Now, let's consider Alice's brother:\n - He is one of Alice's N brothers\n - He has the same parents as Alice\n\n3. This means that Alice's brother has:\n - The same sisters as Alice\n - One sister more than Alice (because Alice herself is his sister)\n\n4. Therefore, the number of sisters Alice's brother has is:\n M + 1\n\n Where M is the number of sisters Alice has.\n\nSo, the answer is: Alice's brother has M + 1 sisters.")상당히 미묘한 질문이긴 하지만, Claude 3.5 Sonnet는 그 이유를 차근차근 설명해 주었습니다.
알아야 할 사항
Anthropic Claude 3.5 Sonnet는 현재 미국 동부(버지니아 북부) AWS 리전의 Amazon Bedrock에서 사용할 수 있습니다. 리전별 Amazon Bedrock 모델 지원에 대한 자세한 내용은 설명서에 나와 있습니다. Amazon Bedrock 요금 페이지를 참조하여 특정 사용 사례에 대한 비용을 확인하세요.
Claude 3.5 Sonnet는 저렴한 비용으로 더 빠르고 강력한 모델에 대한 액세스를 제공함으로써 다음과 같은 다양한 산업에서 생성형 AI를 더 쉽고 효과적으로 사용할 수 있도록 합니다.
의료 및 생명과학 – 의료 분야에서 Claude 3.5 Sonnet는 영상 분석을 향상시키고, 환자 분류를 위한 진단 보조 역할을 하며, 최신 연구 결과를 이해하기 쉬운 형식으로 요약하는 데 가능성을 보여줍니다.
금융 서비스 – 이 모델은 금융 추세를 파악하고 고객의 고유한 상황에 맞는 맞춤형 채무 상환 계획을 수립하는 데 중요한 도움을 줄 수 있습니다.
법률 – 법률 회사는 이 모델을 사용하여 관련 판례 및 법령을 신속하게 검색함으로써 법률 연구를 가속화할 수 있습니다. 또한 이 모델은 계약 분석을 통해 준법률가의 효율을 높이고 표준 법률 문서 초안 작성을 지원할 수 있습니다.
미디어 및 엔터테인먼트 – 이 모델은 저널리스트의 연구를 촉진하고 대본 집필 및 캐릭터 개발의 창작 프로세스를 지원하며 귀중한 청중 감정 분석을 제공할 수 있습니다.
기술 – Claude 3.5 Sonnet는 소프트웨어 개발자에게 신속한 애플리케이션 프로토타이핑, 레거시 코드 마이그레이션, 혁신적인 기능 구상, 사용자 경험 최적화, 마찰점 식별 등의 기회를 제공합니다.
교육 – 교육자는 이 모델을 사용하여 지원금 제안서 작성을 간소화하고, 새로운 추세를 반영한 포괄적인 커리큘럼을 개발하고, 데이터베이스 쿼리 및 인사이트 생성을 통해 연구 지원을 받을 수 있습니다.
지금은 생성형 AI의 흥미진진한 시기입니다. 이 새 모델을 사용하려면 Amazon Bedrock 사용 설명서의 Anthropic Claude 모델 섹션을 참조하세요. 심층적인 기술 콘텐츠를 찾아보고 빌더 커뮤니티에서 각자의 솔루션에서 Amazon Bedrock을 어떻게 사용하고 있는지도 알아보시려면 community.aws 사이트를 방문해 보세요. 이러한 향상된 기능으로 어떤 작업을 수행하는지 경험을 공유해주세요!
– Danilo