什麼是擴展 AI?
擴展 AI 正在增加組織營運各個方面的 AI 利用率和範圍,以最大限度地提高業務價值。大多數組織都是首先開展一些專注於解決特定問題的 AI 專案。擴展 AI 不僅限於專案,還將 AI 廣泛而深入地整合到組織的核心服務、產品或業務程序中。
此程序需要增強的技術能力 — 您必須使用不同的資料集開發和訓練不同的 AI 模型,然後系統地部署它們以進行變更管理和錯誤修正。除了解決技術挑戰之外,AI 擴展還需要思維和程序轉移,以推動各方面的創新。
擴展 AI 有哪些優勢?
擴展 AI 意味著從實驗型人工智慧轉移到套用型人工智慧。它具有廣泛的企業應用,並且可能顛覆產業。它可改變遊戲規則,從根本上轉變競爭環境。組織可以按更低的成本提供更多的價值,在其產業區塊中取得競爭優勢。下面概述一些主要優勢。
新收入來源
AI 系統已經助力產品和服務改進。例如,生成式 AI 技術正用於加速產品設計,而聊天機器人正在改變客戶存取和接收支援與服務的方式。考慮到這一點,企業範圍內的 AI 採用可以推動遠超出此範圍的創新。例如,日本領先的建築公司 Takenaka Corporation 使用 AI 開發 Building 4.0 數位平台。該平台可讓工人輕鬆找到從建築產業法律到法規、指南和最佳實務的資訊。該平台提高內部效率,並且為組織創造新的收入來源。
增強客戶滿意度
企業範圍內的 AI 採用可讓組織在客戶旅程的每個步驟中提供價值。從個人化的建議到更快速的交付和即時通訊,組織可以解決客戶問題並滿足不斷變化的客戶要求。例如,主流媒體公司 Fox 正在加速資料洞察,以近乎即時的方式提供與消費者、廣告商和廣播公司內容相關的 AI 驅動產品。廣告商可以使用該系統在特定且相關的視訊時刻進行產品植入,從而從他們與福 Fox 的關係中取得更多價值。同時,觀眾也會在正確的時間收到與其最相關的產品推薦。
減少浪費
擴展 AI 意味著將 AI 功能從面向客戶的領域引入到後台和中台任務。它可以減少管理工作負載,讓員工空出時間處理更有創意的工作,並且更妥善地平衡工作與生活。同樣,AI 系統也可以監控關鍵程序,以識別和消除瓶頸或堵塞點。例如,研究密集型生物製藥公司 Merck 已經建置用於知識挖掘和市場研究任務的 AI 應用程式。他們的目標是減少手動、耗時的程序,這些程序會減損整個製藥價值鏈中更有影響力的工作。
擴展 AI 需要哪些方面?
實驗一個或兩個 AI 模型與在 AI 上執行整個企業存在很大的差異。隨著 AI 採用的範圍不斷擴大,複雜性、成本和其他挑戰也會增加。若要成功擴展 AI,您必須在三個關鍵領域投入資源和時間:人員、技術和程序。
人員
AI 專案通常是資料科學家和 AI 研究人員的領域。然而,大規模的 AI 需要具備廣泛的技能,從領域專業知識到 IT 基礎設施管理和資料工程。組織應投資於建立多學科團隊,這些團隊可以在整個企業中進行各種 AI 實作協作。可採用兩種方法:Pod 和部門。
Pod
這是由機器學習專家、資料科學家和軟體工程師組成的小團隊,為特定企業部門負責 AI 產品開發。Pod 可以加速 AI 開發,但也有其缺陷。它們可能會導致形成知識孤島,以及各種不同的 AI 技術和工具集合在整個企業中臨機使用。
部門
這是單獨的 AI 分部或部門,可優先處理、監督和管理整個組織的 AI 開發。這種方法需要更多的前期成本,也可能會增加採用的時間。但是,它會帶來更加可永續發展且系統化的 AI 擴展。
技術
擴展 AI 需要在各種環境中建置和部署數百種機器學習模型。組織必須引入相應技術,以高效地將模型從實驗過渡到生產環境,同時促進持續維護和提升生產力。該技術應與現有的 IT 基礎設施和軟體開發實務整合。它應該支援資料科學家和組織內其他利害關係人之間的協作。
程序
AI 開發是一個需要不斷改進的重複程序。資料科學家準備資料,訓練和調整模型,以及將其部署到生產環境中。他們監控輸出和效能,並重複這些步驟以發佈下一個版本。整個程序需要標準化以高效地擴展。組織必須實作機器學習營運 (MLOps),這是一套自動化和標準化整個 AI 生命週期程序的實務。為確保安全、受監管和道德的 AI 開發,對整個生命週期的治理也至關重要。
擴展 AI 的關鍵技術是什麼?
專門的技術和工具是 AI 取得進步的必需品。以下是我們給出的一些範例。
特徵存放區
特徵存放區有助於跨不同 ML 模型重複使用功能。特徵是從原始資料衍生的個別可衡量屬性。它們可以是年齡、收入或點擊率等簡單的屬性,也可以是透過轉換和彙總建立的更複雜工程特徵。
特徵存放區可組織和管理這些特徵及其中繼資料,例如定義、運算邏輯、相依性以及其用量歷史記錄。資料科學家和機器學習工程師可以高效地重複使用、分享和探索特徵,從而減少重複工作。
程式碼資產
可重複使用的程式碼資產 (如程式庫、架構和自訂程式碼庫) 可提升效率。透過標準化某些程式庫和架構,組織可以確保他們的 AI 解決方案採用最佳實務進行開發,並且隨著時間的推移更易於維護。可重複使用的程式碼資產也可以促進專案之間的一致性。它們可減少重複工作,並且為創新提供機構。
營運自動化
自動化測試和持續整合/持續部署 (CI/CD) 等自動化技術在 AI 擴展過程中發揮著不可估量的作用。它們使組織能夠快速反覆運算 AI 模型並增強其 AI 實作的靈活性。如 RAG 這樣的實務可用于增強生成式 AI 中現有大型語言模型的訓練,而不是從頭開始訓練新的模型。串流資料技術對於自動化資料處理任務至關重要 — 例如機器學習操作所需的即時資料處理的準備與分析。
雲端運算
雲端運算和可擴展基礎設施提供靈活、可擴展的資源,可動態配置這些資源以滿足 AI 工作負載的需求。根據需求縱向擴展或縮減資源的能力可確保組織能夠有效地管理成本,同時滿足 AI 模型效能要求。例如,您可以使用高效能運算 (HPC) 執行個體來訓練複雜模型,以及使用可擴展的儲存解決方案來管理大型資料集。AWS 雲端服務還包括專門的 AI 和機器學習工具,可進一步加速開發和部署。
擴展 AI 面臨哪些挑戰?
成功的 AI 擴展需要組織克服以下挑戰。
模型營運化
由於多種原因,開發的模型未發揮其作為營運工具的全部潛力,下面列出其中一些原因:
- 模型開發基本上是一次性的程序,與實際業務成果無關。
- 團隊之間的模型交交接在沒有文件、程序和結構的情況下發生。
- 模型開發程序處於孤立狀態,沒有來自最終使用者、更廣泛的組織或主題專家的投入。
- 模型會個別部署在舊式系統上。
以靜態一次性資料提取支援的模型迅速變得陳舊且不準確。如果沒有持續的改進實務,模型的效能最終會降低,或者有可能會淘汰。
文化抗拒
大規模採用 AI 需要組織文化和工作流程的重大變更。反對變更和缺乏對 AI 功能的理解阻礙了此程序。由於相容性問題或舊式系統,將 AI 整合到現有業務程序和 IT 系統中也可能很複雜。由於複雜性日益增加、團隊間協作不足以及缺乏標準化程序和工具,資料團隊可能難以維持生產力。
不斷增加的複雜性
在不斷變化的環境中,營運 AI 模型必須保持準確和有效。必須持續監控和維護,例如定期更新和使用新資料進行重新訓練。然而,隨著 AI 模型變得越來越複雜,它們需要更多的訓練資源進行訓練和推論。在後續的反覆運算中,進行變更或修正錯誤會變得更加昂貴和耗時。
監管問題
確保資料和 AI 模型的安全性與隱私性是一項極具挑戰的任務。實驗型 AI 專案在使用組織資料方面具有更大的靈活性。但是,營運成功需要符合適用於企業的所有法規架構。AI 開發需要仔細管理,以確保每個步驟中都有授權的資料存取。例如,如果未經授權的使用者向 AI 聊天機器人提出機密問題,則它不應在答案中披露機密資訊。
AWS 如何支援您的 AI 擴展工作?
AWS 可在 AI 採用之旅的每個階段助您一臂之力,並且提供最全面的人工智慧 (AI) 服務、基礎設施和實作資源。您可以在整個企業範圍內更快速、更高效地擴展 AI。例如,您可以使用以下服務:
- Amazon Bedrock,使用專屬資料選取、自訂、訓練和部署領先業界的基礎模型。
- Amazon QDeveloper,透過產生程式碼、分析程式碼庫、偵錯問題以及根據 AWS 最佳實務提供架構指引來加速軟體開發,所有這些都透過 IDE 或 AWS 管理主控台內的自然語言互動完成。
- Amazon Q,可快速取得緊急問題的相關答案、解決問題和產生內容。您也可以使用公司資訊儲存庫、程式碼和企業系統中的資料與專業知識來採取行動。
- Amazon SageMaker Jumpstart,可透過在機器學習中心建置、訓練和部署基礎模型來加速 AI 開發。
您也可以使用 Sagemaker for MLOps 工具來簡化 AI 開發程序。例如:
- 使用 SageMaker Experiments 追蹤與模型訓練任務相關的成品,例如參數、指標和資料集。
- 將 SageMaker Pipelines 設定為定期或在觸發某些事件時自動執行。
- 使用 SageMaker 模型註冊庫來追蹤中央儲存庫中的模型版本和中繼資料 (例如使用案例分組和模型效能指標基準)。可以使用此資訊依據自身的業務需求選擇最佳模型。
立即建立免費帳戶,開始在 AWS 上使用 AI。