Amazon Bedrock 배치 추론, 이제 Converse API 형식 지원

게시된 날짜: 2026년 2월 27일

Amazon Bedrock 배치 추론이 이제 Converse API를 모델 간접 호출 유형으로 지원하므로 배치 워크로드에 대해 모델에 구애받지 않는 일관된 입력 형식을 사용할 수 있습니다.

이전에는 배치 추론을 위해 InvokeModel API를 사용하여 모델별 요청 형식을 지정해야 했습니다. 이제 배치 추론 작업을 생성할 때 Converse를 모델 간접 호출 유형으로 선택하고 표준 Converse API 요청 형식을 사용하여 입력 데이터를 구조화할 수 있습니다. Converse 배치 작업의 출력은 Converse API 응답 형식을 따릅니다. 이 기능을 사용하면 실시간 추론과 배치 추론 모두에 동일한 통합 요청 형식을 사용하여 프롬프트 관리를 간소화하고 모델 간 전환에 필요한 노력을 줄일 수 있습니다. Amazon Bedrock 콘솔과 API를 통해 Converse 모델 간접 호출 유형을 구성할 수 있습니다.

이 기능은 Amazon Bedrock 배치 추론을 지원하는 모든 AWS 리전에서 사용할 수 있습니다. 시작하려면 Amazon Bedrock 사용 설명서의 배치 추론 작업 생성 및 배치 추론 데이터 형식 지정 및 업로드 섹션을 참조하세요.