Amazon SageMaker HyperPod ora supporta l'esecuzione di IDE e notebook per accelerare lo sviluppo IA
Amazon SageMaker HyperPod ora supporta IDE e notebook, consentendo agli sviluppatori IA di avviare JupyterLab, Editor di codice o connettere IDE locali per l'esecuzione dei carichi di lavoro IA interattivi direttamente sui cluster HyperPod.
La versione permette agli sviluppatori IA di eseguire IDE e notebook sugli stessi cluster HyperPod EKS persistenti utilizzati per l'addestramento e l'inferenza. Gli sviluppatori possono utilizzare la capacità GPU scalabile di HyperPod tramite strumenti noti come l'interfaccia a riga di comando (CLI) di HyperPod, condividendo dati tra IDE e job di addestramento mediante file system montati quali FSx ed Elastic File System. La soluzione consente di eseguire più IDE sulla medesima istanza GPU e su singola GPU, utilizzando il supporto Multi-Instance GPU (MIG) disponibile su HyperPod.
Gli amministratori possono massimizzare gli investimenti in CPU/GPU mediante una governance unificata per IDE, carichi di lavoro di addestramento e inferenza tramite la governance delle attività di HyperPod. L'osservabilità di HyperPod fornisce metriche di utilizzo complete che includono il consumo di CPU, GPU e memoria, consentendo agli amministratori di ottimizzare l'utilizzo del cluster e gestire i costi in modo efficace.
La funzionalità è disponibile in tutte le regioni AWS in cui è attualmente supportato Amazon SageMaker HyperPod, ad eccezione delle regioni Cina e GovCloud (Stati Uniti). Per ulteriori informazioni, consulta la nostra documentazione.