- Machine learning›
- Amazon SageMaker AI›
- Amazon SageMaker con MLflow
Accelera lo sviluppo dell’IA generativa con Amazon SageMaker AI e MLflow
Traccia gli esperimenti, valuta i modelli e traccia le applicazioni IA senza gestione dell’infrastruttura
Perché usare Amazon SageMaker AI con MLflow?
La creazione e la personalizzazione di modelli IA è un processo iterativo che prevede centinaia di esecuzioni di addestramenti per trovare l’algoritmo, l’architettura e i parametri migliori per una precisione ottimale del modello. Amazon SageMaker AI offre una funzionalità MLflow gestita e serverless che consente agli sviluppatori di IA di tracciare facilmente gli esperimenti, osservare il comportamento e valutare le prestazioni dei loro modelli e applicazioni di IA senza la necessità di gestire un’infrastruttura. SageMaker AI con MLflow dispone inoltre degli strumenti di sviluppo di modelli di IA conosciuti di SageMaker, come SageMaker AI JumpStart, Registro dei modelli, Pipeline e funzionalità di personalizzazione dei modelli serverless per aiutarti a connettere ogni fase del ciclo di vita dell’IA, dalla sperimentazione all’implementazione.
Vantaggi di Amazon SageMaker AI con MLflow
Inizia a tracciare gli esperimenti e le applicazioni IA di tracciamento senza dover effettuare il provisioning di infrastrutture né configurare server di tracciamento. Gli sviluppatori di IA ottengono l’accesso immediato a una funzionalità MLflow serverless che consente al team di concentrarsi sulla creazione di applicazioni IA invece che sulla gestione dell’infrastruttura.
SageMaker AI con MLflow si adatta automaticamente alle tue esigenze, che tu stia eseguendo un singolo esperimento o gestendo centinaia di job di fine-tuning paralleli. MLflow adatta automaticamente la tua infrastruttura durante le fasi di sperimentazione intense e la ridimensiona durante i periodi di calma, mantenendo le prestazioni costanti senza il carico operativo della gestione dei server.
Con una sola interfaccia, puoi visualizzare i job di addestramento in corso, collaborare con i membri del team durante la sperimentazione e mantenere il controllo della versione per ogni modello e applicazione. MLflow offre anche funzionalità di tracciamento avanzate per aiutarti a identificare rapidamente l’origine di bug o comportamenti imprevisti.
Man mano che il progetto di MLflow si evolve, i clienti di SageMaker AI continueranno a beneficiare dell’innovazione della comunità open source beneficiando al contempo del supporto serverless di AWS.
Amazon SageMaker AI con MLflow si aggiorna automaticamente alla versione più recente di MLflow, consentendoti di accedere alle funzionalità più recenti senza finestre di manutenzione o interventi di migrazione.
Semplifica la personalizzazione dei modelli di IA
Con MLflow su SageMaker AI, puoi tracciare, organizzare e confrontare gli esperimenti per identificare i modelli che performano meglio. MLflow è dotato delle funzionalità di personalizzazione dei modelli serverless di Amazon SageMaker AI per modelli popolari come Amazon Nova, Llama, Qwen, DeepSeek e GPT-OSS, consentendoti di visualizzare i job di addestramento in corso e le valutazioni tramite un’unica interfaccia.
Mantieni la coerenza con la gestione dei prompt
Puoi semplificare la progettazione e la gestione dei prompt nelle tue applicazioni IA con MLflow Prompt Registry, una potente funzionalità che ti consente di creare versioni, tracciare e riutilizzare i prompt in tutta l’organizzazione, aiutando a mantenere la coerenza e migliorando la collaborazione nello sviluppo dei prompt.
Traccia le applicazioni e gli agenti IA in tempo reale
SageMaker AI con MLflow registra gli input, gli output e i metadati a ogni fase dello sviluppo dell’IA per identificare rapidamente bug o comportamenti imprevisti. Con il tracciamento avanzato per flussi di lavoro agentici e applicazioni in più fasi, otterrai la visibilità necessaria per il debug di sistemi complessi di IA generativa e l’ottimizzazione delle prestazioni.
Centralizza la governance dei modelli con SageMaker Model Registry
Le organizzazioni hanno bisogno di un modo semplice per tenere traccia di tutti i modelli candidati tra i team di sviluppo per prendere decisioni informate su quali modelli procedere alla produzione. Managed MLflow include un’integrazione progettata appositamente che sincronizza automaticamente i modelli registrati in MLflow con SageMaker Model Registry. Questo consente ai team di sviluppo dei modelli di IA di utilizzare strumenti distinti per le rispettive attività: MLflow per la sperimentazione e il registro dei modelli e SageMaker per la gestione del ciclo di vita della produzione con una gamma completa di modelli.
Implementa facilmente i modelli sugli endpoint di SageMaker AI
Una volta raggiunti gli obiettivi desiderati di precisione e prestazioni del modello, puoi distribuire i modelli in produzione da SageMaker Model Registry in pochi clic agli endpoint di inferenza di SageMaker AI. Questa integrazione perfetta elimina l’esigenza di costruire container personalizzati per l’archiviazione dei modelli e consente ai clienti di sfruttare i container di inferenza ottimizzati di SageMaker AI mantenendo l'esperienza intuitiva di MLflow per il log e la registrazione dei modelli.
Wildlife Conservation Society
“La WCS sta promuovendo la conservazione globale della barriera corallina attraverso MERMAID, una piattaforma open source che utilizza modelli di ML per analizzare le foto della barriera corallina scattate da scienziati di tutto il mondo. Amazon SageMaker con MLflow ha migliorato la nostra produttività eliminando la necessità di configurare i server di tracciamento di MLflow o di gestire la capacità in caso di mutamento delle esigenze della nostra infrastruttura. Ora che il nostro team può concentrarsi interamente sull’innovazione dei modelli, stiamo accelerando i tempi di implementazione per fornire informazioni critiche basate sul cloud a scienziati marini e responsabili.”
Kim Fisher, MERMAID
Lead Software Engineer, WCS
