Amazon SageMaker ノートブックインスタンスが Trainium1 ベースと Inferentia 2 ベースのインスタンスのサポートを開始
SageMaker ノートブックインスタンスで Trainium1 および Inferentia2 ベースの EC2 インスタンスが一般提供されることを発表いたします。
AWS Trainium チップを搭載した Amazon EC2 Trn1 インスタンスと、AWS Inferentia チップを搭載した Inf2 インスタンスは、高性能な深層学習のトレーニングと推論をそれぞれ目的として構築されています。Trn1 インスタンスは、大規模言語モデル (LLM) や潜在拡散などの 1000 億以上のパラメータを持つ生成 AI モデルのトレーニングにおいて、他の同等の Amazon EC2 インスタンスよりもコスト削減が可能です。Inf2 インスタンスは、LLM やビジョントランスフォーマーなどの生成 AI 向けに低コストで高性能な推論を提供します。テキストの要約、コード生成、質問応答、画像と動画の生成、レコメンデーション、不正検出など、さまざまなアプリケーションにわたって、Trn1 および Inf2 インスタンスを使用できます。
米国東部 (バージニア北部、オハイオ) および米国西部 (オレゴン) の AWS リージョンで、Amazon EC2 Trn1 インスタンスを SageMaker ノートブックインスタンスでご利用いただけます。Amazon EC2 Trn1n インスタンスは AWS 米国東部 (バージニア北部、オハイオ) の SageMaker NBI でご利用いただけます。Amazon EC2 Inf2 インスタンスは、AWS 米国西部 (オレゴン)、AWS 米国東部 (バージニア北部、オハイオ)、AWS 欧州 (アイルランド)、AWS 欧州 (フランクフルト)、AWS アジアパシフィック (東京)、AWS アジアパシフィック (シドニー)、AWS アジアパシフィック (ムンバイ)、AWS 欧州 (ロンドン)、AWS アジアパシフィック (シンガポール)、AWS 欧州 (ストックホルム)、AWS 欧州 (パリ)、AWS 南米 (サンパウロ) の SageMaker NBI で利用できます。
SageMaker ノートブックインスタンスの設定と使用の手順については、開発者ガイドをご覧ください。