게시된 날짜: Sep 28, 2023
파운데이션 모델(FM)을 사용하여 생성형 AI 애플리케이션을 구축하고 확장하는 가장 쉬운 방법인 Amazon Bedrock이 이제 정식 버전으로 제공됩니다. Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Stability AI, Amazon과 같은 선도적인 AI 기업의 다양한 고성능 FM을 제공하는 완전관리형 서비스입니다. 이 서비스를 사용하면 생성형 AI 애플리케이션을 구축하는 데 필요한 광범위한 기능 세트를 활용하여 개인 정보 보호 및 보안을 유지하면서 개발을 간소화할 수 있습니다.
미세 조정된 13B 및 70B 파라미터 버전의 Meta 대규모 언어 모델(LLM)인 Llama 2를 완전관리형 API로 제공하는 것은 Amazon Bedrock이 처음입니다. Llama 모델은 대화 사용 사례에 적합합니다. 자세한 내용은 Amazon Bedrock의 Llama 2를 참조하세요.
생성형 AI를 프로덕션에 빠르게 배포할 수 있도록 Amazon Bedrock에서는 프로비저닝된 처리량을 사용할 수 있습니다. 따라서 처리량(분당 입력/출력 토큰 수)을 예약하고 트래픽 피크 시간에도 일관된 사용자 경험을 유지할 수 있는 유연성과 제어 기능이 제공됩니다. 규제가 엄격한 산업에 종사하는 고객을 위해 Amazon Bedrock은 HIPAA 적격성과 GDPR 규정 준수를 획득했습니다. 또한 Amazon Bedrock은 Amazon CloudWatch와 통합되어 사용량 지표를 추적하고 감사 목적으로 사용자 지정된 대시보드를 구축하도록 지원하며, AWS CloudTrail과 통합되어 다른 시스템을 생성형 AI 애플리케이션에 통합할 때 API 활동을 모니터링하고 문제를 해결하도록 지원합니다.
Amazon Bedrock은 미국 동부(버지니아 북부) 및 미국 서부(오레곤) 리전에서 사용할 수 있습니다.
생성형 AI를 사용한 구축에 대해 자세히 알아보려면 Amazon Bedrock, Amazon Bedrock 요금 및 공지 블로그 게시물을 참조하세요.