Amazon SageMaker HyperPod accelera l'implementazione di modelli a pesi aperti
Amazon SageMaker HyperPod ora supporta l'implementazione direttamente su Amazon SageMaker HyperPod sia di modelli di fondazione a pesi aperti da Amazon SageMaker JumpStart sia di modelli ottimizzati con fine-tuning da Amazon S3 e Amazon FSx. In questo modo è possibile addestrare, ottimizzare con fine-tuning e implementare senza problemi i modelli sulle stesse risorse di elaborazione HyperPod, massimizzando l'utilizzo delle risorse durante l'intero ciclo di vita del modello.
In pochi rapidi passaggi si può scegliere un modello di fondazione a pesi aperti da SageMaker JumpStart e implementarlo velocemente sul cluster di SageMaker HyperPod. SageMaker esegue automaticamente il provisioning dell'infrastruttura, implementa il modello sul cluster, abilita il dimensionamento automatico e configura l'endpoint SageMaker. SageMaker aumenta e riduce le risorse di elaborazione tramite la governance delle attività di HyperPod man mano che il traffico sugli endpoint del modello cambia e pubblica automaticamente le metriche nella dashboard di osservabilità di HyperPod per fornire piena visibilità sulle prestazioni del modello.
L'implementazione dei modelli da Amazon SageMaker JumpStart è disponibile in tutte le regioni AWS in cui è fornito HyperPod: Stati Uniti orientali (Virginia settentrionale), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Asia Pacifico (Mumbai), Asia Pacifico (Singapore), Asia Pacifico (Sydney) e Asia Pacifico (Tokyo), Europa (Francoforte), Europa (Irlanda), Europa (Londra), Europa (Stoccolma) e Sud America (San Paolo).
Per saperne di più, consulta la pagina web, il blog e la documentazione di Amazon SageMaker HyperPod.