HUMAN Security は Amazon SageMaker を使用して ML トレーニングと市場投入までの時間を短縮

HUMAN Security は、サイバー犯罪の経済性を崩壊させるため、中断、ネットワーク効果、インターネットの可視性などの現代的な防衛戦略を採用しています。企業がデジタル資産を不正行為や人間を模倣するオンラインボットから保護するのに役立つ幅広いサイバーセキュリティソリューションを提供することで、同社は、あらゆる分野にわたる企業がデジタルプレゼンスのセキュリティを強化する支援を行っています。デジタル広告主向けに、同社は Human Defense Platform の ML を使用して、あらゆるデジタルチャネルとフォーマットにわたるオンライン広告のインプレッションの有効性をほぼリアルタイムで予測する広告技術ソリューションである MediaGuard を開発しました。

オンラインボットはますます高度化しているため、HUMAN Security は MediaGuard のレイテンシーと精度の厳しい要件を維持し、エンジニアチームはパフォーマンスの向上のために新しい ML モデルを継続的に反復しています。しかし、HUMAN Security がこのソリューションを導入したとき、ML モデルのトレーニングプロセスは完全に手動で行われ、多数のスクリプトを実行し、さまざまな設定をコピーして貼り付ける必要がありました。多くの場合、HUMAN Security が新しい ML モデルを導入するのに数週間かかりました。「当社は人間の時間を節約したかったのです」と、HUMAN Security のスタッフデータサイエンティストである Austin Leirvik 氏は述べます。「データの準備、抽出、モデルトレーニング、オフラインモデル評価を、すべてボタンを押すだけで行える完全なデータパイプラインをセットアップすることを検討していました」。

2012 年の設立以来、HUMAN Security はクラウドソリューションを AWS に頼ってきました。2020 年には、AWS チームと協力して ML 機能を成熟させました。「私たちは 2 週間ごとに共同作業を行いました」と Leirvik 氏は述べます。「モデルトレーニングを自動化する方法について多くのフィードバックを受け取った結果、SageMaker は当社が直面している問題を解決するために使用できるツールだと考えたのです」。

HUMAN Security は AWS チームと連携する一方で、AWS パートナーが実施するカスタマー向けワークショップである AWS パートナーネットワーク Immersion Days など、AWS を通じて複数のトレーニングにも参加しました。これらのトレーニングの機会は、HUMAN Security のスタッフのスキルを向上し、ML モデルのライフサイクルをより深く理解するのに役立ちました。HUMAN Security は、AWS パートナーである Snowflake が提供する Snowflake Data Cloud も採用しました。これは、データウェアハウジング、データレイク、データエンジニアリング、データサイエンス、データアプリケーション開発、およびデータ共有のためのソリューションです。同社はこのソリューションを使用して、データテーブルを大規模に処理および保存しています。「一般的なモデルトレーニングの実行の際、約 5,000 万のデータポイントを扱っています」と Leirvik 氏は述べます。「より大きなデータセットでオフライン評価を実行できるため、ロングテールについてよりおおきなイメージをもつことができ、とても役立っています」。

同社はまた、シンプルでスケーラブルなサーバーレスデータ統合サービスである AWS Glue の使用も開始しました。HUMAN Security は、抽出作業とクエリ用データの準備に AWS Glue を使用しています。データが準備できたら、HUMAN Security は SageMaker を使って新しい ML モデルを構築、トレーニング、デプロイします。「Amazon SageMaker を使用することで、ML モデルのトレーニングに必要な時間を大幅に削減できました」と、Leirvik 氏は言います。「すべてのモデルで完全なトレーサビリティと再現性を確保しています」。 以前は、HUMAN Security の新しい ML モデルのトレーニングには数週間かかることがありました。現在、同社は新しい ML モデルを数時間で構築、トレーニング、デプロイできるようになりました。

さらに、HUMAN Security は Amazon Elastic Compute Cloud (Amazon EC2) M5 インスタンスを使用してワークロードを実行しています。このインスタンスは、汎用ワークロード向けにバランスの取れたコンピューティング、メモリ、ネットワーキングリソースを提供します。この Amazon EC2 インスタンスタイプに切り替えて以来、同社はコスト削減率を 15% 向上し、需要を迅速にスケールできるようになりました。このスケーラビリティにより、HUMAN Security は ML モデルを強化し、毎週 15 兆件の人間によるオンラインインタラクションを検証しています。「Amazon EC2 M5 インスタンスのスケーラビリティと信頼性には非常に満足しています」と Leirvik 氏は言います。「処理するデータ量を 5 倍に増やすことができました」。

完全自動化を実現するために、HUMAN Security は、Amazon States Language を使用して設定ファイルのセットを定義し、それらのファイルを残りの ML コードベースとともにリポジトリに追加することで、すべての AWS ソリューションに Step Functions を設定しました。コードベースが変更されると、その Step Functions を自動的に再デプロイするため、ワークフローの複雑さが軽減されました。この自動化により、同社は市場投入までの時間を短縮し、ビジネスの俊敏性を高めることができました。HUMAN Security は、さらに時間を節約できたため、MediaGuard 向けの新しい予測機能のリリースに再び注力しました。「AWS を使用することで、デプロイ回数が以前のプロセスと比較して 3 倍になりました」と Leirvik 氏は述べます。「今では、パフォーマンスの問題が発生したときに、より迅速に対応できます」。

HUMAN Security は、このプロジェクトで得た知識を、本稼働中の他の ML モデルにも適用する予定です。同社は、会社全体のさまざまなユースケースで、AWS のサービスを引き続き利用する予定です。「AWS チームと一緒に仕事をすることはとても良い経験になりました」と Leirvik 氏は述べます。「AWS チームは、私たちが直面している問題を新しい方法で考える手助けをし、うまくいくようペースを合わせてくれました」。