Amazon Web Services ブログ
【開催報告】「AWS 秋の Amazon EC2 Deep Dive 祭り 2022」セミナー
ソリューションアーキテクトの渡辺です。2022年10月13日に「AWS 秋の Amazon EC2 Deep Dive 祭り 2022 〜EC2の最新機能でコスト最適化！AWS Graviton/Inferentia/Trainium, EC2スポットインスタンス〜」をオンライン開催しました。本セミナーでは、EC2 コスト最適化に活用できる AWS 独自のカスタムチップや EC2 スポットインスタンスに着目。前半では、様々なワークロードで高いコストパフォーマンスを発揮する Arm アーキテクチャの AWS Graviton プロセッサや、EC2 スポットインスタンスについての概要だけでなく、実際に Deep に活用いただいているカスタマーから、活用例についてご紹介いただきました。また、後半では機械学習にフォーカスし、AWS が独自に開発を行っている推論・学習専用チップ AWS Inferentia / AWS Trainium の概要に加え、実際に Inferentia をサービスで活用いただいているカスタマーより、その重要性や考慮すべきポイント等を交えた Deep なご紹介をいただきました。
本記事では、発表内容の概要と、発表資料を掲載しています。
セミナー概要
タイトル「AWS 秋の Amazon EC2 Deep Dive 祭り 2022 〜EC2の最新機能でコスト最適化！AWS Graviton/Inferentia/Trainium, EC2スポットインスタンス〜」
日時 2022年10月13日 （水） 開演：13:00 – 17:00
13:05 – 13:25 「Amazon EC2 をささえる技術」
講師：アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 コンピュートシニアスペシャリストソリューションアーキテクト 宮本 大輔
概要：AWS Nitro System では、AWS 独自のハードウェアに仮想化の負荷をオフロードすることで、カスタマーの利用する EC2 インスタンスに、より高いパフォーマンス、強固なセキュリティを提供します。また、Nitro System で培われた半導体設計技術は、AWS 独自の CPU である AWS Graviton プロセッサにもつながっています。本セッションでは、このような AWS 独自のハードウェアを中心に、Amazon EC2 をささえる技術についてご紹介します。
資料
13:25 – 13:45 「スポットインスタンス適用の理想と現実 〜現場激闘編〜 」
講師：アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 金融ソリューション本部 ソリューションアーキテクト 阿部 純一郎
概要：Amazon EC2 の購入オプションの1つであるスポットインスタンス。これを使いこなすための6つの原則はご存じでしょうか。頭ではわかっているつもりでも、現場では実践できていないことはないでしょうか。現場で起こりがちなケースを挙げ、その対応方法について紹介いたします。
13:45 – 14:05「AWS Batch x Spotインスタンスで実現するコスト効率の高い大規模計算」
講師：アマゾンウェブサービスジャパン株式会社 シニアソリューションアーキテクト 小林広志
概要：AWS BatchとSpotインスタンスを組み合わせるだけではなく、もう一歩踏み込んだ大規模計算時のコスト最適化のTipsを紹介します。
14:05 – 14:25「Graviton3の性能を最大限引き出す方法 -ARM SVEを使った事例紹介-」
講師：株式会社フィックスターズ ソリューション第二事業部 シニアエンジニア 今泉 良紀 様
概要：Graviton3に新たに搭載されたSVE命令について、概要や特徴に触れ、SVE命令を使った簡単なプログラムの移植例を説明します。その後、実際に既存のOSSを高速化した事例を紹介します。
14:25 – 14:45「ストリーミングETL処理基盤におけるGraviton2への移行事例」
講師：株式会社NTTドコモ サービスイノベーション部ビッグデータ担当 田中 正浩 様 /（NTTコミュニケーションズ出向中） 矢吹 健二 様
概要：数十TB/dayのデータを処理するストリーミングETL処理基盤では、データ処理に大量のEC2を使用しています。EC2がコストの支配項となるようなシステムにおいて簡単にコストを削減する方法としてGraviton2への移行に着目しました。移行に際して我々が行なった取り組みやTipsなどについてお話しします。
14:45 – 15:05 “Machine Learning Model Inference with Graviton”
講師：Mr. Dennis Zhao Engineering Manager, AI-Infrastructure Team. SmartNews, Inc.
Mr. Shaochen Yuan Senior Software Engineer, AI-Infrastructure Team. SmartNews, Inc. (スマートニュース株式会社)
概要：機械学習はスマートニュースにおいて、質の高い情報をその情報を必要とする人々に提供するのに欠かせません。このセッションでは、Gravitonインスタンス上で機械学習モデルをサービスとしてデプロイする際に直面した課題と、結果として得られた推論のパフォーマンスについて紹介します。
15:30 – 15:50 「実践 AWS Inferentia」
講師：アマゾンウェブサービスジャパン合同会社 技術統括本部 コンピュートスペシャリスト シニアソリューションアーキテクト 渡辺啓太
概要：このセッションでは、Inferentiaを用いた機械学習モデルの推論プロセスを効率化をステップ・バイ・ステップで解説します。
それに加えて、g4/g5を用いた推論とのパフォーマンスの比較を行いInf1を用いた場合のコストメリットについて議論します。
15:50 – 16:15「Inf1インスタンスを使った大規模推論環境の構築とスムーズな移行のポイント」
講師：株式会社マネーフォワード CTO室AI推進部 安立 健人 様
概要：弊社ではInf1インスタンスをECS on EC2で利用し大規模推論環境を構築し既存環境からの移行するという作業を、約2ヶ月という短期間で行いました。約2ヶ月でできた理由、Inf1インスタンスの魅力、既存環境からのスムーズな移行のためのポイント、気をつけるべき点などについてお話しします。
16:15 – 16:35 「ノーコードでAI開発！AIプラットフォーム 『AIMINA』」
講師：SB C&S株式会社 AIMINA事業推進室 室長 渡邉敬介 様
コロニー株式会社 マネージングディレクター/シニアエンジニアディレクター Michael H. Oshita 様
概要：誰でも手軽にAIを使うことができるプラットフォームが生まれました。 「AIで何かできないか？」「AIで試したいアイデアがある…」 ビジネスの最前線で悩むあなたに、AIを手軽に「学べる・作れる・試せる」クラウド型AIプラットフォーム『AIMINA』を事例を交えてご紹介します。
当セッションの後半では、AIプラットフォーム『AIMINA』のシステム構成とInf1インスタンスの検証について、システム設計コンセプトや技術的チャレンジをご紹介いたします。
おわりに
今回はAmazon EC2コスト最適化に役立つAWS独自のカスタムチップであるGraviton、Inferentia、Trainiumや、EC2のスポットインスタンスについてDeep Diveするとともに実際にそれらを活用いただいているカスタマーから活用例をご紹介いただきました。AWSコンピュートサービスに関連する今後のセミナー予定は https://awsj-compute.connpass.com/ に掲載していきます。今後も引き続き、様々な切り口からのセミナーを企画してまいりますので、みなさまのご登録をお待ちしております。