Amazon SageMaker HyperPod introduce una nuova funzionalità di osservabilità
La nuova funzionalità di osservabilità di Amazon SageMaker HyperPod consente ai clienti di accelerare lo sviluppo di modelli di IA generativi fornendo visibilità completa sulle risorse di calcolo e sulle attività di sviluppo dei modelli. Elimina la raccolta manuale di centinaia di metriche da tutto lo stack, il lavoro di visualizzazione delle correlazioni tra di esse e il ripristino delle prestazioni delle attività di sviluppo del modello di IA generativa. L'osservabilità di HyperPod monitora le metriche di prestazione delle attività in tempo reale, avvisa i clienti quando una di esse si deteriora e risolve automaticamente la causa principale del problema con policy definite dal cliente.
L'osservabilità di SageMaker HyperPod trasforma il modo in cui i clienti monitorano e ottimizzano le attività di sviluppo di modelli di IA generativa. Tramite una dashboard unificata preconfigurata in Grafana gestito da Amazon con i dati di monitoraggio pubblicati automaticamente in uno spazio di lavoro gestito da Amazon per Prometheus, ora i clienti possono visualizzare le metriche di prestazione delle attività di IA generativa, l'utilizzo delle risorse e lo stato dei cluster in un'unica vista. In questo modo i team possono individuare rapidamente i colli di bottiglia, prevenire costosi ritardi e ottimizzare le risorse di elaborazione. I clienti possono definire avvisi automatici, ricavare metriche di attività specifiche per i casi d'uso e pubblicarle nella dashboard unificata con pochi clic. Riducendo i tempi di risoluzione dei problemi da giorni a minuti, questa funzionalità aiuta i clienti ad accelerare il loro percorso di produzione e a massimizzare il ritorno sugli investimenti nell'IA.
L'osservabilità di SageMaker HyperPod è disponibile in tutte le regioni AWS in cui è supportato SageMaker HyperPod, ad eccezione delle regioni Stati Uniti occidentali (California settentrionale) e Asia Pacifico (Melbourne). Per saperne di più e iniziare a usare la funzionalità, consulta il blog, la relativa documentazione e la pagina web di SageMaker HyperPod.