Amazon Bedrock 進階提示最佳化現在支援縮短提示

張貼日期: 2026年10月20日

Amazon Bedrock 進階提示最佳化現在支援縮短提示，這是一項選用設定，可在維持或改善評估分數的同時縮短提示長度。進階提示最佳化會根據您自訂的評估準則，最佳化 Amazon Bedrock 上任何模型的提示。以往，最佳化只著重於品質。最佳化後的提示往往比原始提示更長。較長的提示會提高輸入字符成本，也可能增加產生第一個字符的時間，這對大規模應用和對延遲敏感的應用至關重要。

當您為輸入資料集中的提示範本開啟縮短提示功能時，最佳化工具即會縮短提示長度。唯有當最佳化提示比您的原始提示更短，且評估分數至少與原始提示相同時，才會傳回最佳化提示。否則會傳回您的原始提示，因此這項設定絕不會讓您得到更長或分數更低的提示。結果包含壓縮率以及原始與最佳化後的字符數，並會顯示在輸出檔案和主控台結果頁面上。例如，壓縮率 0.7 表示最佳化提示少了 30% 的字符。縮短提示適用於任何評估方法，包括引導準則、LLM 即評審評分規則及自訂 Lambda 評估工具。    

縮短提示適用於所有提供進階提示最佳化的 AWS 區域。若要開始使用，請為輸入資料集中的提示範本啟用縮短提示，並照常建立最佳化任務。如需詳細資訊，請參閱 Amazon Bedrock 使用者指南中的縮短提示、Amazon Bedrock 定價頁面及 Amazon Bedrock 產品頁面。