Amazon SageMaker HyperPod ora supporta interfacce di rete solo EFA
Amazon SageMaker HyperPod ora supporta interfacce di rete solo EFA per i gruppi di istanze del cluster, consentendo di configurare dispositivi Elastic Fabric Adapter (EFA) dedicati senza il tradizionale Adattatore elastico di rete (ENA) per le reti IP. SageMaker HyperPod è un'infrastruttura creata appositamente per lo sviluppo di modelli di IA e ML che fornisce un ambiente resiliente e ad alte prestazioni con tolleranza ai guasti integrata e ripristino automatico dei cluster. Ora, grazie alle interfacce solo EFA, puoi scalare ulteriormente i cluster AI/ML senza rischiare l'esaurimento degli indirizzi IP nel tuo VPC.
Quando si eseguono carichi di lavoro di addestramento distribuito su larga scala, la larghezza di banda per la comunicazione tra i nodi è fondamentale per le prestazioni di addestramento. Le istanze del cluster SageMaker HyperPod supportano più interfacce di rete compatibili con EFA, ma configurandole con il tipo di interfaccia efa standard vengono collegati sia un dispositivo EFA sia un dispositivo ENA (per le reti IP) a ciascuna interfaccia, anche quando la rete IP è necessaria solo su un sottoinsieme di interfacce all'interno di un nodo. Il tipo di interfaccia efa consuma inevitabilmente indirizzi IP nella sottorete per ogni dispositivo ENA collegato; ciò può portare all'esaurimento degli indirizzi IP e limitare il numero di nodi che è possibile distribuire all'interno di una singola sottorete. Con questo lancio, ora puoi impostare efa-only quando configuri le interfacce di rete per i gruppi di istanze del cluster HyperPod. Questa opzione assegna l'interfaccia di rete esclusivamente al traffico EFA senza collegare un dispositivo ENA, consentendo di massimizzare il numero di interfacce EFA dedicate alla comunicazione tra nodi a bassa latenza e con un throughput elevato. Poiché le interfacce solo EFA non richiedono indirizzi IP, puoi scalare fino a ottenere cluster più grandi all'interno delle stesse sottoreti senza riscontrare l'esaurimento degli indirizzi IP. Questa configurazione è particolarmente vantaggiosa per i processi di addestramento distribuito su larga scala in cui la larghezza di banda per la comunicazione tra nodi è fondamentale e non è richiesta una rete IP dedicata su ogni interfaccia.
Per abilitare la modalità solo EFA, specifica efa-only nella configurazione ClusterNetworkInterface durante la creazione o l'aggiornamento del cluster HyperPod tramite le API CreateCluster o UpdateCluster. Le interfacce solo EFA sono disponibili in tutte le regioni AWS in cui Amazon SageMaker HyperPod è supportato. Per ulteriori informazioni, consulta ClusterNetworkInterface nella documentazione di riferimento delle API di Amazon SageMaker.