從 6 個月到 3-5 天
部署時間縮短程度
上市速度更快
帶來更好的客戶體驗
員工生產力提升
透過標準化方式
解決方案整合提升
方便機器學習資料科學家工作
超過 3,200 名使用者
使用 Amazon SageMaker Studio
概觀
Itaú Unibanco (Itaú) 是巴西規模最大的私營銀行,需要為其 3,200 多名機器學習 (ML) 使用者提升 ML 基礎設施的速度、靈活性和可擴展性。該銀行的內部部署基礎設施需要訂購伺服器並完成組態任務,才能夠將解決方案提供給資料科學團隊。這個過程需要數月的時間,而且購買伺服器以及執行和安置資料中心產生了非常高額的成本。
Itaú 在 2020 年選擇 Amazon Web Services (AWS) 作為策略雲端供應商,並開始在 AWS 上整建其基礎設施。為加速資料科學家的機器學習流程,Itaú 使用了 Amazon SageMaker Studio,這是一個整合式開發環境,可提供單一 Web 視覺化介面來存取專用工具,進而執行所有機器學習開發步驟。該公司認為 Amazon SageMaker Studio 解決方案是不二選擇。藉助這個新的解決方案,Itaú 將模型開發時間從 6 個月縮短至 5 天,透過標準化方式提高了員工生產力,同時還降低了成本。
機會 | 使用 Amazon SageMaker Studio 高效地為 Itaú 實現機器學習大眾化
Itaú 為巴西、拉丁美洲和全球其他 18 個國家/地區的客戶提供銀行服務。該公司擁有超過 95,700 名員工,其中約 15,000 名參與 IT 作業。Itaú 的原始基礎設施全都位於內部,導致成本高、開發緩慢。受限於實體空間和硬體,內部部署基礎設施也無法擴充。在銀行的資料工作組中,資料科學家需要等待長達 6 個月的時間,才能取得記憶體和資源,而且該公司還有 100 多個機器學習模型正等待部署。
為了解決這些問題,Itaú 決定將其部分業務遷移到雲端,並選擇使用 AWS。Itaú 機器學習工程經理 Diego Nogare 表示:「我們選擇從內部部署遷移到雲端的原因之一,就是為了同時提高業務競爭力和效率。」
遷移開始後大約 6 個月,Itaú 選擇 Amazon SageMaker 作為靈活的雲端原生機器學習解決方案。Amazon SageMaker 服務可以透過全受管基礎設施、工具和工作流程,針對任何使用案例建置、訓練和部署機器學習模型。Itaú 資料科學總監 Vitor Azeka 表示:「我們使用 AWS 來轉換軟體和資料,並需要一個能夠在 AWS 上完美運作的解決方案。Amazon SageMaker 是不二選擇。」 截至 2024 年,該公司大約 60% 的軟體和資料已經過現代化,可在雲端上執行。
我們可以縮短交付時間。我們已經改善標準化和整合程序,並且可以使用 AWS 持續進行改善。」
Rodrigo Fernandes Mello
Itaú 傑出資料科學家
解決方案 | 使用 AWS 將模型部署時間從 6 個月縮短至 5 天
Itaú 使用 AWS 為其資料科學家建置完整的解決方案。首先,使用 AWS Glue 收集資料,AWS Glue 是一項無伺服器資料整合服務,可讓您更輕鬆地探索、準備、移動和整合來自多個來源的資料,以進行分析、機器學習和應用程式開發。然後,這些資料就會用於在 Amazon SageMaker Studio 開始實驗。Itaú 將 Amazon SageMaker Studio 用作靈活的開發解決方案,讓內部資料科學家得以進行實驗。接下來,使用其他 Amazon SageMaker 工具 (例如端點、批次轉換和非同步推論) 部署機器學習模型。這家公司使用 Amazon CloudWatch 來監控模型,Amazon CloudWatch 可以在自動化儀表板中收集並視覺化近乎即時的日誌、指標和事件資料,以簡化基礎設施和應用程式維護工作。同時使用所有這些 AWS 服務,資料科學家就可以滿足其需求。
Itaú 於 2021 年 8 月使用 Amazon SageMaker Studio 作為整合開發環境,交付了第一個解決方案。截至 2023 年 4 月,該公司擁有超過 3,200 名 AWS 服務使用者,其中包括約 350 名資料科學家。
Itaú 部署機器學習模型不再需要等待。使用 Amazon SageMaker Studio,該公司在某些使用案例中將部署時間從 6 個月縮短至 3-5 天。部署時間的縮短可加快公司產品上市的速度。Nogare 表示:「使用 Amazon SageMaker Studio,我們可以很快地執行管道並向客戶交付解決方案,因此,我們可以提供更好的客戶體驗。」 與舊的內部部署基礎設施解決方案相比,這還能為 Itaú 節省成本。
自 2021 年 11 月以來,Itaú 每週與 AWS 團隊開會,針對架構、安全性和藍圖進行討論。Nogare 表示:「對於我們如今取得的成果,AWS Support 起到了非常重要的作用。每當我們遭遇解決方案或治理需求方面的問題,AWS 團隊都會給予我們協助。」 使用 Amazon SageMaker Studio 滿足了部分治理需求。當公司執行管道向使用者提供 Amazon SageMaker Studio 時,治理和安全性問題早已解決。
解決方案的標準化意味著 Itaú 可以更輕鬆地納入新員工,並將資料科學家從一個部門轉換到另一個部門。更新變得更簡單,因為一切都是以虛擬的方式進行,而公司不再依賴實體機器。使用 AWS 整合資料科學家的管道,如此就可以在相同的資料管道中部署和監控機器學習模型。這進一步提高了資料科學家的效率。
Itaú 傑出資料科學家 Rodrigo Fernandes Mello 表示:「最終,我們就可以縮短交付時間、改善標準化和整合情況,而且還可以使用 AWS 持續進行改善。」
成果 | 使用 AWS 進行標準化實現更高效率
Itaú 想持續改善標準化情況。資料科學家下一步的內部標準化工作,就是讓更多員工使用 IARA 解決方案。此解決方案以 AWS 為基礎,使用了多種服務,包括 Amazon SageMaker Studio。Itaú 將繼續使用 Amazon SageMaker 內部的工具 (例如 Amazon SageMaker Pipelines) 來開發其管道。Amazon SageMaker Pipelines 用於大規模建立、自動化和管理機器學習工作流程。Itaú 正在執行測試,使用 AWS 工具讓管道更加標準化。
Azeka 表示:「這個專案可大幅提升資料科學家團隊的效率。使用 Amazon SageMaker Studio,我們可以在發佈其他內容的同時測試新內容,還可以使用大型語言模型探索最先進的解決方案。這點讓我們的資料科學家為能在 Itaú 工作而感到自豪。」
關於 Itaú Unibanco
Itaú 是巴西規模最大的私營銀行,提供完整銀行服務,包括企業銀行、投資銀行和零售銀行投資。該公司於 2008 年由 Banco Itaú 和 Unibanco 合併而成。
使用的 AWS 服務
Amazon SageMaker
Amazon SageMaker 是一項全受管服務,結合了一系列的工具,以實現高效能、低成本的機器學習 (ML),適用於任何使用案例。
Amazon SageMaker Studio
Amazon SageMaker Studio 提供多種專用工具選擇,可執行所有機器學習 (ML) 開發步驟,從準備資料至建置、訓練、部署和管理機器學習模型皆涵蓋在內。
AWS Glue
準備資料以取得高品質結果,是分析或機器學習專案的第一步。AWS Glue 是一項無伺服器資料整合服務,可使資料準備變得更簡單、快速而且實惠。
Amazon CloudWatch
Amazon CloudWatch 服務可監控應用程式、回應效能變更、最佳化資源使用,並提供有關運作狀況的見解。
更多 Itau 案例
開始使用
各行各業各種規模的組織每天都在使用 AWS 來變革其業務和履行其使命。聯絡我們的專家,立即開始您的專屬 AWS 雲端之旅。