使用生成式 AI 進行建構時，您預先做出的選擇將對產品或解決方案的整體成本產生重大的影響。請繼續閱讀，深入了解哪些因素的影響力最大，以及如何將這些因素最佳化以控制生成式 AI 的成本
什麼是
生成式 AI 呢？
生成式 AI 是人工智慧 (AI) 的一種，可以創建各種新內容和想法，包括對話、故事、圖片、影片和音樂。生成式 AI 會採用預先以大量資料完成訓練的 大型模型，這樣的模型通常稱為基礎模型 (FM)。
生成式 AI 成本會隨時間提升
在規劃生成式 AI 專案時，最重要的考量不僅是建構和訓練模型的前期成本，也包括隨著用戶群的增長和客戶需求的增加，而不斷上升的成本。
最佳化生成式 AI 性價比的 4 個步驟
步驟 1
適當調整您的模型
您不見得需要最大的模型。為您的使用案例選擇正確的模型類型和尺寸。
步驟 2
選擇最佳基礎設施
探索一組廣泛的 GPU 和專用加速器，使效能和成本達到平衡。
步驟 3
優化一切
不斷精簡部署內容，將底層資源利用到極致。
步驟 4
善用更好的工具縮減開發時間
管理您的 AI 創新，而不是您的基礎設施。
AWS 如何提供協助
Amazon Web Services (AWS) 提供的解決方案可協助您達成上述四個步驟，全都在最少資源負擔下完成，同時對您的生成式 AI 投資產生最大影響。
Amazon SageMaker
此服務為建構、訓練和部署 FM 提供經濟實惠的基礎設施、工具和工作流程。
AWS 機器學習基礎設施
此服務為構建、訓練和部署 FM 提供高效能、經濟實惠的基礎設施、工具和工作流程。
AWS Inferentia
Amazon Elastic Compute Cloud (Amazon EC2) Inf2 執行個體的每次推論成本降低率達 40%，優於同類的 Amazon EC2 執行個體。
AWS Trainium
Amazon EC2 Trn1 執行個體訓練成本節省比率高達 50%，優於同類的 Amazon EC2 執行個體。
免費註冊 AWS 帳號，領取獨家好禮
新戶註冊 AWS 帳號，即享 AWS 免費方案，可探索超過 100 種 AWS 的產品與服務，還能加碼領取獨家贈品!