Blackboard、Amazon EC2 を最適化して何百万人もの教師と生徒にビデオ会議を提供

2020 年の新型コロナウイルスのパンデミックとオンライン学習への急激な移行により、教育テクノロジー企業の Blackboard (現在は Anthology と合併) は、仮想教室ソリューション Blackboard Collaborate をサポートするためにキャパシティを拡大する必要がありました。このソリューションの使用量が、2019 年と比較して 4,800% 増加していたのです。Blackboard は、主にユーザーに中断のないエクスペリエンスを提供することに関心を持っていましたが、オーバープロビジョニングの面で判断を誤っていました。一方で、長期的に見ると、同社はよりコスト効率の高いソリューションを必要としていました。

Blackboard は、自動スケーリンググループや予測スケーリングなど、Amazon Web Services (AWS) を賢く利用してこのソリューションを開発しました。同社はまた、クラウド内で安全でサイズ変更可能なコンピューティング能力を提供するウェブサービスである Amazon Elastic Compute Cloud (Amazon EC2) の使用を最適化しました。これは、類似のインスタンスよりもコストを削減できる AMD EPYC プロセッサを搭載したインスタンスと、Blackboard が未使用の Amazon EC2 の容量を活用して追加コストを節約できる Amazon EC2 スポットインスタンスに環境設定を切り替えることで行われました。この統合ソリューションにより、Blackboard は需要の急増に対応して効果的にスケールでき、パフォーマンスが 10% 向上し、メディア処理とバッチ記録のコンピューティングインフラストラクチャのコストが約 28% 削減されました。

グローバルな教育テクノロジー企業である Blackboard (現在は Anthology と合併) は、高等教育機関、幼稚園から高校までの学校、企業、政府機関で 1 億 5,000 万人以上のユーザーを抱えています。新型コロナウイルス感染症のパンデミックにより世界中で対面学習が停止した際、Blackboard では、Blackboard Collaborate の同時使用数が 4 週間のうちに 45 倍に増加しました。Blackboard のソフトウェアエンジニアリング部門バイスプレジデントである Kris Stokking 氏は、「国全体が一夜にしてオンライン学習に移行しました」と述べています。「使用量の増加に対応する必要があっただけでなく、教育機関がパラダイム全体をオンサイト学習からオンライン学習に移行させる際のサポートも必要でした」。

Blackboard は、新型コロナウイルス感染症のパンデミックが始まる 1 年前に、既にコンピューティングインフラストラクチャの最新化を開始していました。同社はミッションクリティカルなメディアサーバーを Amazon EC2 Auto Scaling に移行しました。これにより、Blackboard は定義した条件に従って Amazon EC2 インスタンスを自動的に追加または削除できます。同社はまた、AWS Batch を中心に記録処理システムを再設計していました。これにより、デベロッパー、科学者、エンジニアは、AWS で何十万ものバッチコンピューティングジョブを簡単かつ効率的に実行できます。

新型コロナウイルス感染症のパンデミックが始まった当初、Blackboard は Amazon EC2 C5 インスタンス、特にインテル搭載の c5.9xlarge インスタンスを使用していました。コンピューティング需要の劇的な急増に直面した Blackboard は、インスタンスタイプを多様化し、特定のインスタンスタイプとサイズに限定されることに伴うボトルネックを回避するという AWS の提案を採用しました。

Blackboard では、AMD EPYC プロセッサを搭載した c5a.8xlarge インスタンスが最適であることがわかりました。このインスタンスタイプをコンピューティング環境に接続するにあたっては、Terraform を使用してインフラストラクチャを部分的に再構成し、新しいインスタンスタイプで既存のソフトウェアをテストして、パフォーマンスを比較するだけで済みました。ソフトウェアを変更する必要はありませんでした。Blackboard のシニアソフトウェアエンジニアである Gavin Llewellyn 氏は、「今回のテストでは、AMD インスタンスの CPU 数は少ないものの、同等の負荷で CPU 使用率が低いことがわかりました」と述べています。Blackboard のシニアソフトウェアマネージャーである Chris Cooksey 氏は、「AMD 搭載のインスタンスに切り替えることで、同等の容量で 10% 多くのメディア処理を処理できました」と付け加えています。

AMD インスタンスを使用すると、Blackboard は Amazon EC2 Auto Scaling グループで実行されるインスタンス数が少なくなるため、総コンピューティングコストが削減されます。そこで、同社は許容可能なインスタンスのリストで AMD インスタンスを優先しました。Blackboard は、AMD インスタンスで AWS の予測スケーリングを使用してコンピューティング環境をさらに最適化しました。これにより、時間単位でユーザー数を追跡し、予測される要件に応じてプロビジョニングを自動化できるようになりました。

Blackboard は、記録用のビデオ作業の後処理を手始めに、ワークロードの一部をスポットインスタンスに移行することで、さらなる節約を実現しました。当初、同社には Amazon EC2 オンデマンドインスタンスを利用した AWS Batch コンピューティング環境が 1 つありました。同社は 2 つ目の AWS Batch コンピューティング環境を導入しました。この環境では、スポットインスタンスを優先して (オンデマンドインスタンスと比較して最大 90% 割引で利用可能)、スポットインスタンスが利用できない場合にのみワークロードをオンデマンドインスタンス環境に移行しました。「それ以来、記録処理はほぼ 100% スポットインスタンスで運用してきましたが、最初の 1 か月で平均価格を 64% 節約できました」と Llewellyn 氏は言います。

スポットインスタンスの可用性を確信していた Blackboard は、メディアサーバーの Amazon EC2 Auto Scaling グループ、つまり音声/ビデオ会議セッションの中核となるミッションクリティカルな環境で、より多くのスポットインスタンスを利用し始めました。チームは、インスタンスがいつ回収されるかを通知するために Amazon EC2 メタデータサービスを受信するスクリプトを作成しました。AWS はスポットインスタンスの中断について少なくとも 2 分間に警告を発します。また、Blackboard では容量リバランス機能により、インスタンスが中断するリスクが高い場合に事前に通知が受け取れるため、同社はシームレスにオンデマンドインスタンスに移行できます。

Blackboard は既にインスタンスをスケーリングまたは終了するためのコードを作成していたため、スポットインスタンスが使用できなくなったときに同様のコードを適用してオンデマンドインスタンスに戻すのは簡単でした。記録の後処理に若干の混乱があったことを除けば、Blackboard は、スポットインスタンスへの移行で何の問題も発生しませんでした。2021 年 5 月現在、同社はメディアサーバーのコンピューティングニーズの 50% にスポットインスタンスを使用しています。「スポットインスタンスを使用すると技術的に多少は複雑になるため、一部のエンジニアがスポットインスタンスの採用に慎重になるのはそのためかもしれません」と Stokking 氏は言います。「しかし、今わかっていることをもっと早く知っていれば、さらに早くより積極的にスポットインスタンスを求めていたでしょう」。

Blackboard は、AMD 搭載のインスタンスとスポットインスタンスを使用して、混乱を最小限に抑えながら世界中の何百万人もの学生や教師が Blackboard Collaborate を利用できるようにし、その過程でコストを管理しました。「AWS は、どの部分のコストを削減できるかについて非常に率直で、それが強い信頼を築くことにつながりました」と Cooksey 氏は言います。