Amazon Bedrock에서 Amazon Nova Pro 파운데이션 모델을 위한 지연 시간 최적화 추론 출시

게시된 날짜: 2025년 3월 5일

이제 Amazon Nova Pro 파운데이션 모델은 Amazon Bedrock에서 평가판으로 지연 시간 최적화 추론 기능을 지원합니다. 따라서 생성형 AI 애플리케이션의 응답 시간을 단축하고 응답성을 개선할 수 있습니다. 지연 시간 최적화 추론은 지연 시간에 민감한 애플리케이션의 응답 시간을 단축하여 최종 사용자 경험을 향상하고 개발자가 사용 사례에 맞게 성능을 최적화할 수 있는 유연성을 제공합니다. 추가 설정이나 모델 미세 조정을 수행하지 않고도 이러한 기능에 액세스할 수 있으므로 기존 애플리케이션을 즉시 개선하여 응답 시간을 단축할 수 있습니다.

Amazon Nova Pro의 지연 시간 최적화 추론은 미국 서부(오리건), 미국 동부(버지니아), 미국 동부(오하이오) 리전에서 교차 리전 추론을 통해 사용할 수 있습니다. Amazon Nova 파운데이션 모델에 대한 자세한 내용은 AWS 뉴스 블로그, Amazon Nova 제품 페이지 또는 Amazon Nova 사용 설명서에서 알아볼 수 있습니다. Bedrock의 지연 시간 최적화 추론에 대한 내용은 설명서에서 자세히 확인하세요. Amazon Bedrock 콘솔에서 Amazon Bedrock의 Amazon Nova 파운데이션 모델 사용을 시작할 수 있습니다.