Amazon SageMaker HyperPod sekarang mendukung menjalankan IDE dan Notebook untuk mempercepat pengembangan AI
Amazon SageMaker HyperPod sekarang mendukung IDE dan Notebook, memungkinkan pengembang AI menjalankan JupyterLab, Editor Kode, atau menghubungkan IDE lokal untuk menjalankan beban kerja AI interaktif mereka secara langsung di klaster HyperPod.
Rilis ini memungkinkan pengembang AI untuk menjalankan IDE dan notebook pada klaster HyperPod EKS persisten yang sama yang digunakan untuk pelatihan dan inferensi. Pengembang dapat memanfaatkan kapasitas GPU HyperPod yang dapat diskalakan dengan alat yang sudah dikenal seperti HyperPod CLI, sambil berbagi data di seluruh IDE dan tugas pelatihan melalui sistem file yang terpasang seperti FSx dan EFS. Solusi ini mendukung menjalankan beberapa IDE pada instans GPU yang sama, serta pada GPU tunggal, dengan memanfaatkan dukungan Multi-Instance GPU (MIG) di HyperPod.
Administrator dapat memaksimalkan investasi CPU/GPU melalui tata kelola terpadu di seluruh IDE, pelatihan, dan beban kerja inferensi menggunakan HyperPod Task Governance. HyperPod Observability menyediakan metrik penggunaan yang komprehensif termasuk konsumsi CPU, GPU, dan memori, memungkinkan administrator untuk mengoptimalkan pemanfaatan klaster dan mengelola biaya secara efektif.
Fitur ini tersedia di semua AWS Region tempat Amazon SageMaker HyperPod saat ini tersedia, kecuali Region Tiongkok dan GovCloud (AS). Untuk mempelajari selengkapnya, kunjungi dokumentasi kami.