Amazon SageMaker HyperPod が AI 開発を加速するために IDE とノートブックの実行をサポート
Amazon SageMaker HyperPod が IDE とノートブックをサポートするようになったため、AI 開発者は JupyterLab や Code Editor を実行したり、ローカル IDE に接続してインタラクティブな AI ワークロードを HyperPod クラスター上で直接実行したりできます。
このリリースにより、AI 開発者は、トレーニングと推論に使用されるのと同じ永続的な HyperPod EKS クラスター上で IDE とノートブックを実行できます。開発者は、HyperPod CLI などの使い慣れたツールで HyperPod のスケーラブルな GPU 容量を活用しながら、IDE 間でデータを共有したり、FSx や EFS などのマウントされたファイルシステムを通じてトレーニングジョブを共有したりできます。このソリューションは、HyperPod のマルチインスタンス GPU (MIG) サポートを活用することで、単一 GPU だけでなく同じ GPU インスタンスで複数の IDE を実行できます。
管理者は、HyperPod タスクガバナンスを使用して、IDE、トレーニング、推論ワークロード全体で統一されたガバナンスを通じて、CPU/GPU への投資を最大限に活用できます。HyperPod オブザーバビリティは、CPU、GPU、メモリ消費量などの包括的な使用状況メトリクスを提供し、管理者がクラスターの使用率を最適化し、コストを効果的に管理できるようにします。
この機能は、中国リージョンと GovCloud (米国) リージョンを除く、Amazon SageMaker HyperPod が現在利用可能なすべての AWS リージョンでご利用いただけます。詳細については、ドキュメントをご覧ください。