Amazon SageMaker HyperPod kümelerini yeni Amazon SageMaker AI MCP Sunucusu ile yönetin
Amazon SageMaker AI MCP Sunucusu artık HyperPod kümelerini kurmanıza ve yönetmenize yardımcı araçları destekliyor. Amazon SageMaker HyperPod, yapay zeka hızlandırıcıları kümesinde eğitim, ince ayar veya dağıtım gibi model geliştirme görevlerini hızla ölçeklendirerek üretken yapay zeka modeli oluşturmanın gerektirdiği farklılaştırılmamış ağır işleri ortadan kaldırır. SageMaker AI MCP Sunucusu artık yapay zeka kodlama yardımcılarına model eğitimi ve dağıtımı için yapay zeka/makine öğrenimi kümeleri sağlama ve çalıştırma yetkisi veriyor.
AWS'deki MCP sunucuları, yapay zeka kod asistanlarını çeşitli AWS hizmetlerinin gerçek zamanlı ve bağlamsal anlayışıyla donatarak yapay zeka destekli uygulama geliştirmeyi iyileştirmeye yönelik standart bir arabirim sağlar. SageMaker AI MCP sunucusu, ilk kurulumdan devam eden yönetime kadar seçtiğiniz yapay zeka yardımcısını kullanarak uçtan uca yapay zeka/makine öğrenimi küme işlemlerini kolaylaştıran araçlarla birlikte gelir. Yapay zeka temsilcilerinin ön koşullarla birlikte Amazon EKS veya Slurm tarafından düzenlenen HyperPod kümelerini güvenilir bir şekilde kurmasını sağlar. Bu kurulum, ağ, depolama ve bilgi işlem kaynaklarını optimize eden CloudFormation şablonlarıyla desteklenir. Bu MCP sunucusu aracılığıyla oluşturulan kümeler, yüksek performanslı dağıtılmış eğitim ve çıkarım iş yükleri için tamamen optimize edilmiştir ve aktarım hızını en üst düzeye çıkarmak ve gecikmeyi ölçekte en aza indirmek için en iyi uygulama mimarilerinden yararlanır. Ayrıca ölçeklendirme işlemleri, yazılım yamaları uygulama ve çeşitli bakım görevlerini gerçekleştirme dahil olmak üzere küme ve düğüm yönetimi için kapsamlı araçlar sağlar. AWS API MCP Sunucusu, AWS Knowledge MCP Sunucusu ve Amazon EKS MCP Sunucusu ile birlikte kullanıldığında, tüm SageMaker HyperPod API'leri için tam kapsam elde edersiniz ve bir küme düğümünün neden erişilemez hale geldiğini belirleme gibi yaygın sorunları etkili bir şekilde giderebilirsiniz. Bu araçlar küme yöneticilerinin günlük işlemleri kolaylaştırır. Veri bilimcileri için, altyapı uzmanlığı gerektirmeden yapay zeka/makine öğrenimi kümelerini büyük ölçekte kurmalarına olanak tanıyarak en önemli şeye odaklanmalarını sağlar: model eğitimi ve dağıtımı.
Yapay zeka/makine öğrenimi kümelerinizi SageMaker HyperPod'un kullanılabildiği tüm bölgelerde SageMaker AI MCP sunucusu aracılığıyla yönetebilirsiniz. Başlamak için AWS MCP Sunucusu belgelerini ziyaret edin.