HUMAN Security 使用 Amazon SageMaker 加速 ML 訓練和上市時間

HUMAN Security 使用現代防禦策略 (包括中斷、網路效應和網際網路可見性) 來破壞網路犯罪經濟。它透過提供廣泛的網路安全解決方案來協助各行各業的企業提高其數位安全，這些解決方案可協助企業保護其數位資產免受詐騙和模仿人類的線上機器人的侵害。MediaGuard 是該公司為數位廣告商創造的一種廣告技術解決方案，它在 Human Defense Platform 中使用 ML 來近乎即時地預測所有數位管道上任意格式線上廣告曝光的有效性。

由於線上機器人變得越來越精進，HUMAN Security 對 MediaGuard 有著嚴格的延遲和準確性要求，並且為提高模型效能，其工程師團隊不斷疊代更新其 ML 模型。然而，在 HUMAN Security 推出該解決方案之初，其 ML 模型的訓練過程完全手動完成，並涉及執行大量指令碼以及複製和貼上組態。在許多情況下，HUMAN Security 需要數週時間才能完成新 ML 模型的部署。「我們想節省工時，」HUMAN Security 員工資料科學家 Austin Leirvik 表示。「我們希望建立一個完整的資料管道，只需按一下按鈕即可完成資料準備、資料擷取、模型訓練和離線模型評估。」

自 2012 年成立以來，HUMAN Security 一直依賴於 AWS 提供的雲端解決方案，並在 2020 年與 AWS 團隊合作，力圖完善其 ML 能力。「我們每 2 週會進行一次合作，」Leirvik 說道。「我們得到很多關於如何自動化模型訓練的意見回饋，並且我們將 SageMaker 視為一種可以用來解決我們所面臨問題的工具。」

在與 AWS 團隊合作的同時， HUMAN Security 還獲得了多個培訓機會，包括 AWS 合作夥伴網路 Immersion Days，這是由 AWS 合作夥伴舉辦的客戶研討會。這些培訓機會協助 HUMAN Security 提高了其員工的技能，並加深了對 ML 模型生命週期的了解。HUMAN Security 還採用了 Snowflake Data Cloud，這是 AWS 合作夥伴 Snowflake 提供的一種用於資料倉儲、資料湖、資料工程、資料科學、資料應用程式開發和資料分享的解決方案。該公司使用該解決方案來大規模處理和儲存其資料表。「在一次典型的模型訓練中，我們使用大約 5,000 萬個資料點，」Leirvik 說道。「由於我們可以在更大的資料集上進行離線評估，因此能夠更加了解長尾，這非常好。」

該公司還開始使用 AWS Glue，這是一種簡單、可擴展且無伺服器的資料整合服務。HUMAN Security 使用 AWS Glue 執行其擷取作業，以及準備其資料以供查詢。在完成資料準備後，HUMAN Security 會使用 SageMaker 建置、訓練和部署新的 ML 模型。「藉助 Amazon SageMaker，我們大大減少了訓練 ML 模型所需的時間，」Leirvik 說道。「我們的所有模型都具有完整的可追溯性和可重複性。」 以前，HUMAN Security 可能需要數週的時間才能完成一個新 ML 模型的訓練。如今，該公司可以在數小時內完成一個新 ML 模型的建置、訓練和部署。

此外，HUMAN Security 使用 Amazon Elastic Compute Cloud (Amazon EC2) M5 執行個體來執行其工作負載。該執行個體能夠為一般用途工作負載提供平衡的運算、記憶體和網路資源。自從切換到這種 Amazon EC2 執行個體類型，該公司實現了額外 15% 的成本節省，並且具備了快速擴展的能力。這種可擴展性讓 HUMAN Security 的 ML 模型能夠完成每週 15 萬億次線上真人互動的驗證。「我們對 Amazon EC2 M5 執行個體的可擴展性和可靠性非常滿意，」Leirvik 說道。「我們處理的資料量增加到了原來的五倍。」

為了實現完全自動化，HUMAN Security 透過使用 Amazon States Language 定義一組組態檔案，並將這些檔案新增至存有其餘 ML 代碼庫的儲存庫，從而在其所有 AWS 解決方案中設定了 Step Function。一旦程式碼庫發生變更，這些 Step Function 會自動重新部署，從而降低工作流程的複雜性。這種自動化協助該公司加快了上市時間並提高了業務敏捷性。有了更多的時間，HUMAN Security 能夠重新將精力集中在發佈 MediaGuard 的新預測功能上。「與之前的流程相比，使用 AWS 讓我們將部署數量提高了兩倍，」Leirvik 說道。「現在，當我們發現效能問題時，我們可以更快地做出反應。」

HUMAN Security 計劃將從所得經驗運用到生產中的其他 ML 模型。該公司還會繼續在各種使用案例中使用 AWS 服務。「與 AWS 團隊合作很愉快，」Leirvik 說道。「AWS 團隊協助我們以新的方式審視我們面臨的問題，並讓我們跟上步伐，從而取得成功。」