AWS 現已發佈預覽版 Amazon Bedrock 模型提煉

張貼日期: 2024年12月3日

有了 Amazon Bedrock 模型提煉功能,客戶可以使用更小、更快、更具成本效益的模型,以提供使用案例特定的準確度,且其準確度能夠與 Amazon Bedrock 中能力最強大的模型相提並論。

如今,為提高成本效益較低之模型針對客戶使用案例的準確度而對其進行微調,是一種需要迭代的流程,客戶需要編寫提示和回應、改進訓練資料集、確保訓練資料集擷取各種範例,並調整訓練參數。

Amazon Bedrock 模型提煉會自動化從教師模型生成合成資料所需的過程、訓練和評估學生模型,然後託管最終蒸餾模型以進行推論。為消除迭代所導致的部分效能負擔,模型提煉可能會選擇套用最適合您使用案例的不同資料合成方法,以建立一個與特定使用案例的進階模型大致相符的經提煉模型。例如,Bedrock 可以透過生成類似的提示來擴展訓練資料集,或使用客戶提供的提示回應對來作為黃金範例,進而生成高品質的合成回應。

若要進一步了解,請參閱我們的文件部落格