GumGum が Amazon EC2 スポットインスタンスを利用してリアルタイム入札と機械学習のコストを 62% 削減

GumGum Inc. (GumGum) は、コンピュータビジョンと自然言語処理 (NLP) を利用して、世界中のブランドや広告代理店向けに、コンテキストを踏まえた関連性の高い広告キャンペーンを提供する広告テクノロジー企業です。これを実現するために、同社は 1 日あたり 300 億件のトランザクションを実行し、100 TB のデータを処理する、アドエクスチェンジおよびサプライサイド広告プラットフォームを運営しています。

GumGum は 2010 年以来、広告テクノロジー、機械学習、データ処理システムを Amazon Web Services (AWS) 上で運用しています。「当社の成長と有意義な仕事はすべて AWS 上で実現しました」と GumGum のエンジニアリング担当 Senior Vice President である Vaibhav Puranik 氏は述べています。「今日では、何千ものパブリッシャーが広告を表示するために数十億件の入札リクエストを当社に送信しています。AWS が成長するにつれて、当社における AWS サービスの導入も進みました」。

GumGum は最近、リアルタイム入札、広告分析、コンテキスト広告分析などのコンピューティングを多用する広告テクノロジーワークロードのコスト削減に焦点を当て、組織全体のコスト最適化の取り組みに着手しました。

同社は CPU インスタンスを Amazon Elastic Compute Cloud (Amazon EC2) 上の GPU クラスターに置き換えました。現在、これらのクラスターは数千のイベントを同時に処理しており、GumGum は 1 か月あたり 12,000 USD を節約しています。また、同社は、ステートレスアーキテクチャの利用を優先し、Amazon EC2 スポットインスタンスを活用できるようにしました。これにより、デプロイにおいて、未使用の Amazon EC2 キャパシティを大幅な割引料金で利用できるようになりました。

「Amazon EC2 スポットインスタンスは、当社のアーキテクチャに不可欠です」と Puranik 氏は述べています。「当社が最近リリースしたものはすべて、Amazon EC2 スポットインスタンスで実行できるように設計しています」。 また、同社は、AutoSpotting と呼ばれるオープンソースライブラリを利用して Amazon EC2 スポットインスタンスのクラスターを管理しています。これにより、高可用性と、新しい Amazon EC2 スポットインスタンスの自動プロビジョニングを実現し、トラフィックの急増に対応できます。「コンピューティングを Amazon EC2 スポットインスタンスに移行することで、GumGum はコンピューティングコストを 62% 削減できました」と Puranik 氏は言い加えました。

GumGum は AWS Savings Plans を利用して、1 年間または 3 年間にわたって一定量のコンピューティング性能を利用するという契約のおかげで、Amazon EC2 オンデマンドインスタンスのコストをさらに削減しています。単一の AWS Savings Plans の予約で、同社は 1 か月あたり 7,000 USD のコストを削減できました。また、GumGum は、Amazon Simple Storage Service (Amazon S3) 内のデータ保持ポリシーとストレージ階層化を分析および再検討し、ファイルストレージのコストをさらに 1 か月あたり 45,000 USD 削減しました。

GumGum は機械学習を利用して、コンテキストを踏まえた関連性の高いコンテンツを見つけ、広告在庫の近くに表示されるブランドを脅かすコンテンツをブロックし、1 日あたり 2,000 万のユニークなウェブページ上の画像、動画、テキストを分析します。

「当社では、これらすべてのコンポーネントを個別に分析してから、レイトフュージョンを実行します。つまり、これらすべての分析からスコアを取得し、それらを結合して、ページごとに 1 つのスコアを算出するのです」と Puranik 氏は述べています。これらのスコアは、GumGum が各ページでどの広告のパフォーマンスが最も優れているかを判断し、最終的には顧客の広告料金と在庫収益を最大化するのに役立ちます。同社のコンテキスト分析フレームワークは、Amazon EC2 インスタンス上で実行する PyTorch および TensorFlow に構成された深層学習モデルに基づいて構築されています。

GumGum は、あらゆる規模で 1 桁ミリ秒のパフォーマンスを実現する key-value およびドキュメントデータベースである Amazon DynamoDB を利用して、GumGum のコンテキスト分析とブランドセーフティシステムによって生成された推論を保存します。GumGum はミリ秒幅のマージン内で動作およびスケールする必要があるため、Amazon DynamoDB の高速化キャッシュとして Amazon DynamoDB Accelerator も利用します。これにより、GumGum の広告サーバーはわずか 2～3 ミリ秒のレイテンシーで保存された結果にアクセスできるようになります。同社は、Amazon DynamoDB を利用することで、以前使用していた Apache Cassandra ベースのシステムと比較して 70% ものコストを削減しています。

GumGum は、機械学習アプリケーションをサポートするコンピューティングインスタンスについて、Amazon EC2 スポットインスタンスと、トレーニング用の FP16 機能と最大 100 Gbps のネットワークスループットを備えた Amazon EC2 G4 インスタンスに切り替えました。この切り替えにより、「推論が 4 倍高速になり、モデルが小型化されました。つまり、より多くの推論を並行して実行できるようになりました」と GumGum の DevOps Manager である Corey Gale 氏は述べています。 

GumGum は、コンテキスト分析製品である Verity の収益の増大を促進するために、AWS で実行するコンピュータビジョンと NLP の利用を拡大する予定です。現在、Verity は「当社のコンテキストを踏まえた判断とブランドセーフティ機能を活用したいパブリッシャーや DSP 向けの API としてパッケージ化されています」と Puranik 氏は述べています。GumGum は、1 日あたりの処理量を 2,000 万ページから 2 億ページに増やすことにも挑んでいます。