Amazon SageMaker HyperPod artık yapay zeka kodlama yardımcıları için sorun giderme özellikleri sunuyor
Amazon SageMaker HyperPod artık uzman düzeyinde yapay zeka/makine öğrenimi küme tanılamasını doğrudan Claude Code, Cursor ve Kiro gibi yapay zeka kodlama yardımcılarına getiren sorun giderme özellikleri sağlıyor. SageMaker HyperPod, temel modelleri büyük ölçekte geliştirmek, eğitmek ve dağıtmak için özel olarak tasarlanmış bir altyapıdır. Yerleşik hata toleransı ve otomatik küme kurtarma ile esnek ve performanslı bir ortam sağlar ve büyük ölçekli yapay zeka/makine öğrenimi altyapısını yönetmenin farklılaştırılmamış ağır yükünü azaltır. HyperPod özellikleri, küme sorunlarını doğal dil aracılığıyla teşhis etmenize ve çözmenize olanak tanıyarak dağıtılmış eğitim ve çıkarım altyapısında sorun gidermek için gereken zamanı ve uzmanlığı azaltır.
GPU donanım hatalarını ayıklamak, NCCL iletişim hatalarını teşhis etmek ve büyük dağıtılmış kümeler arasında performans darboğazlarını belirlemek karmaşık ve zaman alıcı olmaya devam ediyor. Operatörlerin genellikle düğümlere manuel olarak SSM yapması, onlarca bulut sunucusunda günlükleri ayrıştırması ve belgelere çapraz referans yapması gerekir. Yeni HyperPod sorun giderme özellikleri küme durumu doğrulaması, donanım ve iletişim tanılama, yazılım sürümü sürüklemeleri ve otomatik tanı raporlamasını kapsayan özelliklerle daha çözümleme süresini artırmaya yardımcı olur. Her özellik AWS Sistem Yöneticisi aracılığıyla küme düğümlerinizden kanıt toplamaları, düzenleri analiz etmeleri ve eyleme geçirilebilir öneriler sunmaları için yapay zeka temsilcilerine sistematik olarak rehberlik eden AWS en iyi uygulamalarını yapılandırılmış tanılama iş akışlarında kodlar. Özellikler herhangi bir değişiklik gerekmeden mevcut HyperPod altyapınızla çalışır.
HyperPod sorun giderme özellikleri açık kaynaklıdır ve bugün hem Slurm hem de Amazon EKS tarafından düzenlenen HyperPod kümelerinde SageMaker AI özellikleri eklentisi aracılığıyla kullanılabilir. Kullanmaya başlamak için AwsLabs github deposunu ziyaret edip tercih ettiğiniz kodlama asistanının sagemaker-ai eklentisini indirin.