Amazon Bedrock 內之 Amazon Nova Pro 基礎模型的延遲最佳化推論正式推出

張貼日期: 2025年3月5日

Amazon Nova Pro 基礎模型現在支援 Amazon Bedrock 的預覽版延遲最佳化推論，能夠為生成式 AI 應用程式提供更快的回應時間，並改善回應能力。延遲最佳化推論可加快對延遲敏感之應用程式的回應時間、改善終端使用者體驗，並為開發人員提供更多彈性來針對其使用案例最佳化效能。存取這些功能不需要額外的設定或模型微調，進而可以用更快的回應時間立即增強現有應用程式。

Amazon Nova Pro 的延遲最佳化推論可透過跨區域推論提供，適用於美國西部 (奧勒岡)、美國東部 (維吉尼亞) 和美國東部 (俄亥俄) 區域。請參閱 AWS 新聞部落格、Amazon Nova 產品頁面或 Amazon Nova 使用者指南，進一步了解 Amazon Nova 基礎模型。在文件中進一步了解 Bedrock 上的延遲最佳化推論。您可以透過 Amazon Bedrock 主控台，在 Amazon Bedrock 中開始使用 Amazon Nova 基礎模型。