Domande generali

D: Cos'è Amazon SageMaker?

Amazon SageMaker è un servizio completamente gestito che consente a data scientist e sviluppatori di creare, addestrare e distribuire in modo rapido modelli di machine learning. SageMaker semplifica i passaggi del processo di machine learning per sviluppare modelli di alta qualità in modo più facile.

D: in quali regioni è disponibile Amazon SageMaker?

Per un elenco completo delle regioni AWS supportate da Amazon SageMaker, consulta la tabella delle regioni AWS per l'infrastruttura globale AWS. Per ulteriori informazioni, consulta inoltre la pagina Regioni ed endpoint nel documento Riferimenti generali AWS.

D: Quali livelli di disponibilità offre Amazon SageMaker?

Amazon SageMaker è progettato per offrire disponibilità elevata. Non sono previsti finestre di manutenzione o tempi di inattività pianificati. Le API SageMaker vengono eseguite nei data center sicuri e ad elevata disponibilità di Amazon, con replica dello stack di servizi configurata fra tre strutture in ogni regione AWS per offrire tolleranza ai guasti in caso di inattività di un server o di interruzione del servizio nella zona di disponibilità.

D: Quali misure di sicurezza implementa Amazon SageMaker?

Amazon SageMaker crittografa gli artefatti di modello di ML e di altri elementi del sistema, sia inattivi sia in transito. Le richieste all'API e alla console di SageMaker vengono inoltrate tramite una connessione sicura (SSL). È possibile avvalersi di ruoli AWS Identity and Access Management in SageMaker per assegnare automaticamente autorizzazioni di accesso alle risorse per formazione e distribuzione. È anche possibile utilizzare bucket S3 per dati e artefatti di modello, nonché applicare una chiave KMS a notebook di SageMaker, processi di addestramento ed endpoint per crittografare i volumi di storage dedicati al machine learning.

D: In che modo Amazon SageMaker protegge il codice?

Amazon SageMaker memorizza il codice in volumi di storage per l'apprendimento automatico, protetti da gruppi di sicurezza crittografabili su disco.

D: Come viene fatturato l'utilizzo di Amazon SageMaker?

Verranno addebitati i costi delle risorse di storage e di elaborazione dati e apprendimento automatico utilizzate per hosting del notebook, addestramento di modelli, elaborazione di previsioni e registrazione dei risultati. Amazon SageMaker permette di selezionare il numero e il tipo di istanze da utilizzare per il notebook in hosting, l'addestramento e l'hosting del modello. I prezzi sono calcolati solo in base all'uso effettivo, senza tariffe minime né impegni anticipati. Per i dettagli, consulta la pagina dei prezzi di Amazon SageMaker.

D: Se invece è già presente un notebook o un ambiente di addestramento o hosting?

Amazon SageMaker offre un flusso di lavoro completo, ma è sempre possibile continuare a utilizzare gli strumenti esistenti insieme al servizio. Trasferire i risultati di ciascuna fase da o verso SageMaker secondo le esigenze aziendali è molto semplice.

D: Cos'è Amazon SageMaker Studio?

Amazon SageMaker Studio fornisce un'interfaccia visuale unica basata sul Web in cui si possono eseguire tutte le fasi di sviluppo di ML. SageMaker Studio ti offre accesso, controllo e visibilità completi su ogni fase necessaria alla progettazione, l’addestramento e la distribuzione dei modelli. Puoi velocemente caricare dati, creare nuovi notebook, formare e ottimizzare modelli, andare avanti e indietro tra le fasi per adeguare gli esperimenti, confrontare risultati e distribuire modelli alla produzione in un unico luogo, rendendo il tutto più produttivo. Tutte le attività di sviluppo ML che includono notebook, gestione degli esperimenti, creazione automatica dei modelli, profilazione e debugging e il rilevamento di errori del modello possono essere eseguite all'interno dell'interfaccia visuale unificata di SageMaker Studio.

D: Cos'è Amazon SageMaker Autopilot?

Amazon SageMaker Autopilot è la prima funzionalità automatica di machine learning del settore che offre controllo e visibilità totali sui modelli di ML. SageMaker Autopilot esamina automaticamente i dati grezzi, applica i processori di caratteristiche, sceglie il miglior set di algoritmi, addestra e ottimizza diversi modelli, controlla le loro prestazioni e in base a queste stila una classifica dei modelli, il tutto in pochi clic. Il risultato è un modello con le migliori prestazioni possibili, che si può distribuire in una frazione del tempo normalmente richiesto per la formazione del modello. Hai piena visibilità su come il modello è stato creato, cosa c'è al suo interno e SageMaker Autopilot si integra con Amazon SageMaker Studio. Puoi ricercare fino a 50 modelli diversi generati da SageMaker Autopilot all'interno di SageMaker Studio, così è facile scegliere il miglior modello per il tuo caso d'uso. SageMaker Autopilot può essere utilizzato per produrre facilmente un modello anche da chi non possiede esperienza di machine learning; può però essere utilizzato da sviluppatori esperti per sviluppare un modello di base per le successive iterazioni del team.

In che modo Amazon SageMaker Autopilot differisce dai servizi di intelligenza artificiale verticale come Amazon Personalize e Amazon Forecast?

Mentre Amazon Personalize e Amazon Forecast si rivolgono in modo specifico a casi d'uso di raccomandazione e previsione personalizzati, Amazon SageMaker Autopilot è una soluzione di machine learning automatico generico per problemi di classificazione e regressione, come rilevamento di frodi, analisi del tasso di abbandono e marketing mirato. La personalizzazione e la previsione si concentrano sulla semplificazione dell'esperienza completa offrendo formazione e hosting di modelli in un bundle. Puoi addestrare i modelli utilizzando Amazon SageMaker Autopilot e ottenere pieno accesso a essi e alle pipeline che li hanno generati. Possono quindi distribuire i modelli nell'ambiente di hosting di loro scelta o iterare ulteriormente per migliorare la qualità dei modelli.

D: Quali algoritmi integrati sono supportati in Amazon SageMaker Autopilot?

Amazon SageMaker Autopilot supporta 6 algoritmi integrati al momento del lancio: XGBoost, Linear Learner, KNN, Factorization Machines, Multi-layer Perceptron (MLP), un algoritmo basato su rete neurale e auto-sklearn, un algoritmo integrato SageMaker derivato da il toolkit AutoML open source di Scikit-learn.

D: Non desidero utilizzare uno degli algoritmi integrati, come posso utilizzare Amazon SageMaker Autopilot?

È possibile inserire nella blacklist uno o più algoritmi integrati. In questo caso, gli algoritmi verranno rimossi dall'elenco degli algoritmi esplorato da Amazon Sagemaker Autopilot per creare la modalità.

D: Amazon SageMaker Autopilot supporta la formazione distribuita?

Sì. Tutti gli algoritmi integrati di Amazon SageMaker Autopilot supportano immediatamente l'addestramento distribuito.

D: È possibile interrompere manualmente un processo Amazon SageMaker Autopilot?

Sì. Puoi interrompere un processo in qualsiasi momento. Quando un processo Amazon SageMaker Autopilot viene interrotto, tutte le prove in corso verranno interrotte e non verrà avviata alcuna prova nuova.

Crea modelli

D: Quali tipi di notebook sono supportati?

Al momento sono supportati i notebook Jupyter.

D: In che modo funzionano i notebook Amazon SageMaker?

I notebook Amazon SageMaker, ora disponibili in anteprima, forniscono notebook Jupiter da un clic che possono iniziare a operare in pochi secondi. Le risorse di calcolo sottostanti sono completamente elastiche in modo da poter calibrare le risorse disponibili e le modifiche vengono attuate in modo automatico in background senza interrompere il lavoro. SageMaker permette anche la condivisione di notebook con un clic. Tutte le dipendenze di codice vengono raccolte automaticamente per collaborare facilmente con le altre. Otterranno lo stesso notebook, salvato nello stesso posto.

Con i notebook SageMaker è possibile accedere con le credenziali aziendali tramite SSO e iniziare a lavorare con i notebook in pochi secondi. La condivisione dei notebook nell’ambito dei team e tra essi è semplice, poiché le dipendenze necessarie per far funzionare un notebook vengono automaticamente monitorate in ambienti incapsulati con esso durante la sua condivisione.

D: In che modo i notebook Amazon SageMaker si interfacciano con altri servizi AWS?

I notebook Amazon SageMaker offrono accesso a tutte le funzionalità di SageMaker, quali addestramento distribuito, trasformazione in batch, hosting e gestione degli esperimenti. Puoi accedere ad altri servizi come set di dati in Amazon S3, Amazon Redshift, AWS Glue, Amazon EMR o AWS Lake Formation dai Notebook SageMaker.

D: Cos'è Amazon SageMaker Ground Truth?

Amazon SageMaker Ground Truth fornisce l’etichettatura di dati automatizzata tramite il machine learning. SageMaker Ground Truth selezionerà prima un campione casuale di dati e lo invierà ad Amazon Mechanical Turk per essere etichettato. I risultati vengono quindi utilizzati per addestrare un modello di etichettatura che tenta di etichettare automaticamente un nuovo campione di dati grezzi. Le etichette vengono inoltrate quando il modello è in grado di etichettare i dati con un punteggio di affidabilità uguale o superiore alla soglia definita. Quando il punteggio di affidabilità è inferiore alla soglia definita, i dati vengono inviati a etichettatori umani. Alcuni dei dati etichettati da persone vengono utilizzati per generare un nuovo gruppo di dati per formare un modello di etichettatura e il modello viene formato nuovamente in modo automatico per migliorarne l’accuratezza. Questo processo si ripete con ogni campione di dati grezzi da etichettare. Con ogni iterazione, il modello di etichettatura diventa più capace di etichettare automaticamente i dati grezzi e meno dati vengono instradati agli esseri umani.

Addestra modelli

D: Cos'è Amazon SageMaker Experiments?

Amazon SageMaker Experiments ti aiuta ad organizzare e controllare le iterazioni sui modelli di machine learning. SageMaker Experiments ti aiuta a gestire le iterazioni con l'acquisizione automatica di parametri di input, configurazioni e risultati salvandoli come "esperimenti". Puoi lavorare all'interno dell'interfaccia visiva di SageMaker Studio, in cui puoi sfogliare esperimenti attivi, cercare esperimenti precedenti in base alle loro caratteristiche, rivedere esperimenti precedenti e i relativi risultati e paragonare i risultati degli esperimenti in modo visivo.

D: Cos'è Amazon SageMaker Debugger?

Amazon SageMaker Debugger rende il processo di formazione più trasparente, acquisendo automaticamente i parametri in tempo reale durante la formazione come formazione e convalida, matrici di confusione e gradienti di apprendimento per migliorare l'accuratezza del modello.

I parametri di SageMaker Debugger possono essere visualizzati in Amazon SageMaker Studio per una comprensione semplificata. SageMaker Debugger può anche generare avvisi di allarme e correzione quando vengono rilevati comuni problemi di formazione. Con SageMaker Debugger, puoi interpretare il modo in cui un modello sta operando, costituendo un primo passo verso l'esplicabilità dei modelli.

D: Cos'è Managed Spot Training?

Managed Spot Training con Amazon SageMaker ti consente di addestrare i modelli di machine learning utilizzando le istanze Spot di Amazon EC2, riducendo al contempo il costo della formazione fino al 90%.

D: In che modo è possibile utilizzare Managed Spot Training?

Puoi abilitare l'opzione Managed Spot Training durante l'invio dei tuoi processi di addestramento e specificare quanto a lungo desideri attendere per la capacità Spot. Amazon SageMaker gestisce la capacità Spot e utilizza le istanze Spot di Amazon EC2 per eseguire i tuoi processi. Avrai completa visibilità sullo stato del processo di formazione, sia quando è in esecuzione sia quando è in attesa di capacità disponibile.

D: In quali casi è indicato utilizzare Managed Spot Training?

Managed Spot Training è ideale quando hai la flessibilità di scegliere il momento in cui eseguire i processi di addestramento e per ridurre al minimo il loro costo. Con Managed Spot Training puoi ridurre il costo dell'addestramento dei modelli di machine learning fino al 90%.

D: Come funziona Managed Spot Training?

Managed Spot Training utilizza le istanze Spot di Amazon EC2 per l'addestramento. Queste istanze possono essere annullate nel caso in cui sia necessaria capacità per AWS. Come risultato, i processi di Managed Spot Training possono essere eseguiti in piccoli incrementi non appena la capacità diventa disponibile. I processi di addestramento non devono essere riavviati da zero in caso di interruzione, in quanto Amazon SageMaker può ripristinarli utilizzando l'ultimo checkpoint del modello. I framework e gli algoritmi di visione computerizzata integrati in SageMaker consentono di creare checkpoint periodici da poter abilitare con i modelli personalizzati.

D: Con Managed Spot Training è necessario creare checkpoint periodicamente?

Consigliamo di creare checkpoint periodici come procedura consigliata generale per i processi di addestramento con esecuzione prolungata. In questo modo è possibile evitare il riavvio dei processi di Managed Spot Training in caso di annullamento della capacità. Abilitando i checkpoint, Amazon SageMaker ripristina i processi di Managed Spot Training dall'ultimo checkpoint.

D: In che modo è possibile calcolare il risparmio sui costi con i processi di Managed Spot Training?

Quando completi un processo di Managed Spot Training, puoi visualizzare il risparmio nella Console di gestione AWS e calcolare il risparmio sui costi anche come differenza percentuale tra la durata di esecuzione del processo di addestramento e la durata per la quale hai ricevuto la fattura.

Indipendentemente dal numero di interruzioni dei processi di Managed Spot Training, i costi ti verranno addebitati per la durata per cui i dati erano stati scaricati.

D: Quali istanze si possono utilizzare con Managed Spot Training?

La funzione Managed Spot Training può essere utilizzata con tutte le istanze supportate in Amazon SageMaker.

D: Quali regioni di AWS sono supportate con Managed Spot Training?

Managed Spot Training è supportato in tutte le regioni di AWS nelle quali Amazon SageMaker è attualmente disponibile.

D: Sono previste limitazioni per il set di dati utilizzabile per l'addestramento?

Non sono previsti limiti fissi alle dimensioni del set di dati utilizzabile per l'addestramento di modelli con Amazon SageMaker.

D: Quali origini dati è possibile estrarre in Amazon SageMaker?

Durante la creazione di un processo di addestramento, è possibile specificare il percorso dei dati di addestramento in Amazon S3.

D: Quali algoritmi usa Amazon SageMaker per generare modelli?

Amazon SageMaker include di default algoritmi per regressione lineare, regressione logistica, clustering k-medie, analisi delle componenti principali, macchine di fattorizzazione, topic modeling neurale, allocazione latente di Dirichlet, alberi con gradient boosting, sequence2sequence, previsione di serie storiche, word2vec e classificazione di immagini. SageMaker fornisce inoltre container ottimizzati Apache MXNet, Tensorflow, Chainer, PyTorch, Gluon, Keras, Horovod, Scikit-learn e Deep Graph Library. Infine, Amazon SageMaker supporta gli algoritmi di addestramento personalizzati tramite immagini Docker conformi alle specifiche documentate.

D: Cos'è l'ottimizzazione automatica dei modelli?

La maggior parte degli algoritmi di apprendimento automatico impiegano una serie di parametri che controllano il funzionamento dell'algoritmo sottostante. Questi parametri vengono in genere chiamati iperparametri; i loro valori influenzano la qualità dei modelli addestrati. L'ottimizzazione automatica dei modelli è il processo di ricerca di un set di iperparametri di un algoritmo che offrano un modello ottimale.

D: A quali modelli può essere applicata l'ottimizzazione automatica dei modelli?

È possibile eseguire l'ottimizzazione di modelli in Amazon SageMaker su qualsiasi algoritmo purché sia scientificamente fattibile, ad esempio algoritmi integrati in SageMaker, reti neurali profonde o algoritmi arbitrari caricati in SageMaker sotto forma di immagini Docker.

D: È possibile utilizzare l'ottimizzazione automatica dei modelli al di fuori di Amazon SageMaker?

No, al momento no. Esperienza e prestazioni di ottimizzazione del modello sono migliori nell'ambito di Amazon SageMaker.

D: In cosa consiste l'algoritmo di ottimizzazione sottostante?

Al momento, il nostro algoritmo per l'ottimizzazione degli iperparametri è un'implementazione ottimizzata dell'ottimizzazione baynesiana. Il suo scopo è l'ottimizzazione dei parametri secondo un obiettivo stabilito dal cliente. In particolare, verifica i parametri di oggetto per i processi di addestramento completati e sfrutta i dati ottenuti per dedurre la combinazione di iperparametri per il processo di addestramento successivo.

D: Sono previsti suggerimenti per l'ottimizzazione di specifici iperparametri?

No. Il modo in cui i singoli iperparametri alterano le prestazioni di un modello dipende da diversi fattori e non è semplice stabilire se un iperparametro sia più importante di altri e debba essere quindi modificato. Per gli algoritmi in Amazon SageMaker, è già stabilito quali iperparametri possono essere ottimizzati.

D: Quanto tempo richiede un processo di ottimizzazione di iperparametri?

La durata di un processo di ottimizzazione degli iperparametri dipende da diversi fattori, tra cui le dimensioni dei dati, l'algoritmo sottostante e i valori degli iperparametri. Inoltre, i clienti potranno scegliere il numero di processi di addestramento simultanei e il numero totale. Tutte queste scelte influenzano la durata del processo di ottimizzazione.

D: È possibile ottimizzare diversi obiettivi simultaneamente, ad esempio ottenendo un modello sia rapido sia preciso?

No, al momento no. È necessario specificare un singolo obiettivo di ottimizzazione, oppure modificare il codice dell'algoritmo in modo che emetta un nuovo parametro, che sarà confrontato con altri parametri per applicarvi il processo di addestramento secondo il nuovo obiettivo.

D: Quanto costa l'ottimizzazione automatica dei modelli?

Per il processo di ottimizzazione di per sé non è previsto alcun costo. Saranno tuttavia addebitati i costi dei processi di addestramento avviati dal processo di ottimizzazione, secondo le tariffe di addestramento dei modelli.

D: Cosa determina la scelta di usare Amazon SageMaker o l’ottimizzazione automatica dei modelli?

Amazon SageMaker Autopilot automatizza tutto in un tipico flusso di lavoro di machine learning, tra cui la preelaborazione delle funzioni, la selezione dell'algoritmo e l'ottimizzazione dell'iperparametro, concentrandosi in particolare sui casi d'uso di classificazione e regressione. L'ottimizzazione automatica dei modelli, d'altra parte, è progettata per ottimizzare qualsiasi modello, indipendentemente dal fatto che si basi su algoritmi integrati, framework di deep learning o container personalizzati. Per ottenere flessibilità, è necessario selezionare manualmente l'algoritmo specifico, determinare gli iperparametri da ottimizzare e gli intervalli di ricerca corrispondenti.

D: Cos'è il consolidamento dell'apprendimento?

Il consolidamento dell'apprendimento è una tecnica di machine learning che consente a un agente di imparare in un ambiente interattivo tramite prove ed errori utilizzando feedback dalle proprie azioni ed esperienze.

D: Posso formare i modelli di consolidamento dell'apprendimento in Amazon SageMaker?

Sì, è possibile formare i modelli di consolidamento dell'apprendimento in Amazon SageMaker oltre ai tradizionali modelli di apprendimento supervisionato e non supervisionato.

D: In cosa è diverso il consolidamento dell'apprendimento da quello supervisionato?

Sebbene sia l'apprendimento supervisionato che il consolidamento dell'apprendimento utilizzino la mappatura tra input e output, nell'apprendimento supervisionato il feedback fornito all'agente è un insieme di azioni corretto per eseguire un'attività, mentre il consolidamento dell'apprendimento utilizza un feedback ritardato dove i segnali di ricompensa sono ottimizzati per assicurare un obiettivo a lungo termine tramite una sequenza di azioni.

D: Quando è indicato utilizzare il consolidamento dell'apprendimento?

Mentre l'obiettivo delle tecniche di consolidamento dell'apprendimento è di trovare la risposta esatta in base ai modelli nei dati di training, l'obiettivo delle tecniche di apprendimento non supervisionato è di trovare similitudini e differenze tra i punti di dati. Al contrario, l'obiettivo delle tecniche di consolidamento dell'apprendimento è di imparare come ottenere un risultato desiderato anche quando non è chiaro come raggiungere tale risultato. Di conseguenza, il consolidamento dell'apprendimento è più adatto per abilitare le applicazioni intelligenti dove un agente può prendere decisioni autonome come nella robotica, veicoli autonomi, HVAC, controllo industriale e altro.

D: Che tipo di ambienti possono utilizzare per formare i modelli di consolidamento dell'apprendimento?

Amazon SageMaker RL supporta un numero di ambienti diversi per la formazione di modelli di consolidamento dell'apprendimento. È possibile utilizzare i servizi AWS come AWS RoboMaker, gli ambienti open source o personalizzati sviluppato utilizzando le interfacce Open AI Gym o gli ambienti di simulazione commerciale come MATLAB e SimuLink.

D: Devo scrivere i miei algoritmi di agente RL per formare i modelli di consolidamento dell'apprendimento?

No, Amazon SageMaker RL include i kit di strumenti RL come Coach e Ray RLLib che offrono implementazioni o algoritmi di agente RL come DQN, PPO, A3C e molti altri.

D: Posso portare le mie librerie RL e l'implementazione di algoritmi ed eseguirli in Amazon SageMaker RL?

Sì, è possibile portare le librerie RL e le implementazione di algoritmi in container Docker ed eseguirle in Amazon SageMaker RL.

D: Posso effettuare rollout distribuiti utilizzando Amazon SageMaker RL?

Sì. È anche possibile selezionare un cluster eterogeneo in cui la formazione può essere eseguita su un'istanza GPU e le simulazioni possono essere eseguite su più istanze CPU.

Distribuisci modelli

D: Che cos'è Amazon SageMaker Model Monitor?

Amazon SageMaker Model Monitor consente agli sviluppatori di rilevare e correggere il concept drift. SageMaker Model Monitor rileva automaticamente il concept drift nei modelli distribuiti e fornisce avvisi dettagliati che aiutano a identificare la causa del problema. Tutti i modelli formati su SageMaker emettono automaticamente metriche chiave che possono essere raccolte e visualizzate su Sagemaker Studio. Dall'interno di SageMaker Studio è possibile configurare i dati in modo che vengano raccolti, come visualizzarli, e quando ricevere gli avvisi.

D: È possibile accedere all'infrastruttura su cui viene eseguito Amazon SageMaker?

No. Amazon SageMaker gestisce automaticamente l'infrastruttura di elaborazione, consentendo l'esecuzione di controlli dello stato, l'applicazione di patch di sicurezza e altre attività di manutenzione di routine. È anche possibile distribuire artefatti di modelli provenienti dai processi di addestramento con codice di inferenza personalizzato nell'ambiente di hosting aziendale.

D: In che modo è possibile ricalibrare le dimensioni e le prestazioni di un modello di Amazon SageMaker una volta avviata la fase di produzione?

L'hosting di Amazon SageMaker viene ricalibrato automaticamente mediante Application Auto Scaling in base alle prestazioni necessarie all'applicazione. Inoltre, è possibile modificare manualmente il tipo e il numero di istanze senza interrompere l'operatività apportando modifiche alla configurazione dell'endpoint.

D: In che modo è possibile monitorare l'ambiente di produzione di Amazon SageMaker?

Amazon SageMaker può inoltrare i propri parametri prestazionali in Amazon CloudWatch per permetterne il monitoraggio, per impostare allarmi e configurare operazioni da eseguire in base alle variazioni del traffico. Inoltre, Amazon SageMaker trascrive i propri log in Amazon CloudWatch Logs per favorire monitoraggio e risoluzione dei problemi negli ambienti di produzione.

D: Quali tipi di modelli possono essere conservati in hosting con Amazon SageMaker?

Amazon SageMaker è compatibile con l'hosting di qualsiasi modello conforme alle specifiche documentate per le immagini Docker di inferenza. Sono pertanto inclusi i modelli creati a partire da codice di inferenza e artefatti di modello di Amazon SageMaker.

D: Quante richieste simultanee in tempo reale dell'API supporta Amazon SageMaker?

Amazon SageMaker è stato progettato per ricalibrare le risorse fino a supportare un numero elevato di transazioni al secondo. Il numero preciso varia in base al modello distribuito e a tipo e numero di istanze in cui il modello è stato implementato.

D: Che cos'è la trasformazione in batch?

La trasformazione in batch permette di eseguire analisi predittive su batch di dati di piccole e grandi dimensioni. Non è necessario porzionare il set di dati o gestire gli endpoint in tempo reale. È possibile richiedere analisi predittive con una semplice API per un numero elevato di record di dati, eseguendone la trasformazione in modo rapido e semplice

D: Cos'è Amazon SageMaker Neo?

Amazon SageMaker Neo consente di addestrare una sola volta i modelli di machine learning e di eseguirli ovunque nel cloud e nell'edge. SageMaker Neo ottimizza automaticamente i modelli costruiti con framework comuni di deep learning che possono essere utilizzati per la distribuzione su più piattaforme hardware. I modelli ottimizzati funzionano a una velocità doppia e consumano meno di un decimo delle risorse di modelli tradizionali di machine learning.

D: Come si inizia a usare Amazon SageMaker Neo?

Per iniziare a usare Amazon SageMaker Neo, è necessario eseguire l'accesso nella relativa console, scegliere un modello formato, seguire l'esempio per compilare i modelli e distribuire il modello risultante nella piattaforma hardware di destinazione.

D: Quali sono i componenti principali di Amazon SageMaker Neo?

Amazon SageMaker Neo contiene due componenti principali: un compilatore e un runtime. Prima, il compilatore Neo legge modelli esportati da diversi framework. Converte quindi le funzioni specifiche del framework e le operazioni in una rappresentazione intermedia indipendente dal framework. Inoltre, esegue una serie di ottimizzazioni. Quindi, il compilatore genera un codice binario per le operazioni ottimizzate e le scrive in una libreria di oggetti condivisa. Il compilatore salva inoltre la definizione del modello e i parametri in file separati. Durante l'esecuzione, il runtime Neo carica gli artefatti generati dal compilatore, definizione del modello, parametri e libreria di oggetti condivisa per eseguire il modello.

D: Devo utilizzare Amazon SageMaker per formare il mio modello e poter utilizzare Amazon SageMaker Neo per convertire il modello?

No. È possibile formare modelli altrove e utilizzare Neo per ottimizzarli per le istanze ML Amazon SageMaker o i dispositivi supportati AWS IoT Greengrass.

D: Quali modelli supporta Amazon SageMaker Neo?

Al momento, Amazon SageMaker Neo supporta i modelli di deep learning più conosciuti che alimentano le applicazioni di visione artificiale e i modelli di albero delle decisioni utilizzati in Amazon SageMaker oggi. Neo ottimizza le prestazioni dei modelli AlexNet, ResNet, VGG, Inception, MobileNet, SqueezeNet e DenseNet formati in MXNet e TensorFlow e i modelli Random Cut Forest formati in XGBoost.

D: Quali piattaforme supportano Amazon SageMaker Neo?

Al momento, Neo supporta le istanze SageMaker ML.C5, ML.C4, ML.M5, ML.M4, ML.P3 e ML.P2 e AWS DeepLens, Raspberry Pi e i dispositivi Jetson TX1 e TX2 e le CPU Intel® Atom e Intel® Xeon basate su dispositivi Greengrass, le CPU ARM Cortex-A e le GPU Nvidia Maxwell e Pascal.

D: Devo utilizzare una versione specifica di un framework supportato nell'hardware di destinazione?

No. Gli sviluppatori possono eseguire modelli che utilizzano il container Amazon SageMaker Neo senza dipendenze nel framework.

D: Quanto costa l'utilizzo di Amazon SageMaker Neo?

Viene pagato l'uso dell'istanza ML di Amazon SageMaker che esegue l'inferenza utilizzando Amazon SageMaker Neo.

D: In quali regioni AWS è disponibile SageMaker Neo?

Per una lista completa di tutte le regioni che offrono supporto, consulta la tabella delle regioni AWS.

Ulteriori informazioni sui prezzi di Amazon SageMaker

Visita la pagina dei prezzi
Sei pronto per iniziare?
Registrati
Hai altre domande?
Contattaci