게시된 날짜: Nov 29, 2023
이제 Amazon Bedrock을 사용하여 프롬프트를 배치로 처리하여 모델 평가, 실험 및 오프라인 처리에 대한 응답을 받을 수 있습니다.
배치 API를 사용하면 좀 더 효율적으로 파운데이션 모델(FM)에서 추론을 실행할 수 있습니다. 아울러 응답을 집계하고 배치로 분석할 수 있습니다.
배치 처리는 미국 동부(버지니아 북부), 미국 서부(오레곤), 아시아 태평양(싱가포르), 아시아 태평양(도쿄) 및 유럽(프랑크푸르트) AWS 리전에서 평가판 모드로 사용할 수 있습니다.
Amazon Bedrock의 배치 추론에 대해 자세히 알아보려면 Amazon Bedrock API 참조를 확인하세요. 배치 모드 요금은 온디맨드 모드 요금과 동일합니다. 세부 정보는 Amazon Bedrock 요금 페이지를 참조하세요.
업데이트: 2024년 2월 27일 - 원래 게시물에는 해당 출시가 평가판 모드로 제공 중인데 정식 출시로 잘못 기재되어 이에 따라 업데이트되었습니다.