Amazon Bedrock 개발자 경험

Amazon Bedrock을 사용하면 개발자가 다양한 고성능 파운데이션 모델(FM)을 손쉽게 사용할 수 있음

주요 FM 중에서 선택

Amazon Bedrock을 사용하면 다양한 FM으로 구축하는 작업이 API 직접 호출만큼 쉽습니다. Amazon Bedrock에서는 AI21 Labs의 Jurassic, Anthropic의 Claude, Cohere의 Command and Embed, Meta의 Llama 2, Stability AI의 Stable Diffusion과 AWS의 Amazon Titan 모델과 같은 주요 모델에 액세스할 수 있습니다. Amazon Bedrock을 사용하면 사용 사례 및 애플리케이션 요구 사항에 가장 적합한 FM을 선택할 수 있습니다.

다양한 태스크에서 FM을 실험

텍스트, 채팅, 이미지 등 다양한 형식의 대화형 플레이그라운드를 사용하여 다양한 FM을 손쉽게 실험해 볼 수 있습니다. 플레이그라운드에서 사용 사례에 맞는 다양한 모델을 시험해 봄으로써 주어진 태스크에 모델이 적합한지 확인할 수 있습니다.

FM을 평가하여 사용 사례에 가장 적합한 FM 선택

Amazon Bedrock의 모델 평가를 사용하면 자동 및 인적 평가를 사용하여 특정 사용 사례에 맞는 FM을 선택할 수 있습니다. 자동 모델 평가는 큐레이트된 데이터 세트를 사용하며 정확성, 견고성, 유해성과 같은 사전 정의된 지표를 제공합니다. 주관적 지표의 경우 Amazon Bedrock을 사용하여 클릭 몇 번으로 인적 평가 워크플로를 설정할 수 있습니다. 인적 평가를 사용할 때는 자체 데이터 세트를 가져와서 관련성, 스타일, 브랜드 표현 맞춤과 같은 사용자 지정 지표를 정의할 수 있습니다. 인적 평가 워크플로에서는 자체 직원을 검토자로 활용하거나 AWS에서 관리하는 팀을 고용하여 인적 평가를 수행할 수 있습니다. AWS 관리 팀을 고용하는 경우 AWS가 숙련된 평가자를 고용하고 사용자를 대신하여 전체 워크플로를 관리합니다. 자세히 알아보려면 블로그를 읽어보세요.

자체 데이터를 사용하여 FM을 비공개로 사용자 지정

Amazon Bedrock을 사용하면 클릭 몇 번으로 일반 모델을 회사의 비즈니스 및 사용 사례에 맞게 특화되고 사용자 지정된 모델로 전환할 수 있습니다. FM을 특정 태스크에 맞게 조정하려면 미세 조정이라는 기술을 사용하면 됩니다. Amazon S3의 레이블링된 예제 몇 개를 가리키기만 하면 Amazon Bedrock이 기본 모델의 사본을 만들고, 데이터로 훈련하고, 사용자만 액세스할 수 있는 미세 조정된 모델을 생성하므로 사용자 지정된 응답을 받을 수 있습니다. 미세 조정은 Command, Llama 2, Titan Text Lite 및 Express, Titan Image Generator, Titan Multimodal Embeddings 모델에 사용할 수 있습니다. Amazon Bedrock에서 Titan Text Lite 및 Express FM을 조정하는 두 번째 방법은 지속적인 사전 훈련을 사용하는 것입니다. 이 기법은 레이블링되지 않은 데이터 세트를 사용하여 도메인 또는 산업에 맞게 FM을 사용자 지정합니다. Amazon Bedrock의 미세 조정과 지속적 사전 훈련에서는 기본 FM의 사용자 지정된 비공개 사본이 생성되며, 데이터는 원본 기본 모델을 훈련하는 데 사용되지 않습니다. 모델을 사용자 지정하는 데 사용되는 데이터는 Amazon Virtual Private Cloud(VPC)를 통해 안전하게 전송됩니다. 자세히 알아보려면 블로그를 읽어보세요.