Kelola klaster Amazon SageMaker HyperPod dengan Amazon SageMaker AI MCP Server baru
Amazon SageMaker AI MCP Server sekarang mendukung alat yang membantu Anda mengatur dan mengelola klaster HyperPod. Amazon SageMaker HyperPod menghilangkan beban berat yang tidak terdiferensiasi yang terlibat dalam membangun model AI generatif dengan menskalakan tugas pengembangan model dengan cepat seperti pelatihan, penyempurnaan, atau deployment di seluruh klaster akselerator AI. Server SageMaker AI MCP sekarang memberdayakan asisten pengodean AI untuk menyediakan dan mengoperasikan klaster AI/ML untuk pelatihan dan deployment model.
Server MCP di AWS menyediakan antarmuka standar untuk meningkatkan pengembangan aplikasi yang dibantu AI dengan melengkapi asisten kode AI dengan pemahaman kontekstual real-time dari berbagai layanan AWS. Server SageMaker AI MCP dilengkapi dengan alat yang merampingkan operasi klaster AI/ML ujung ke ujung menggunakan asisten AI pilihan Anda—mulai dari penyiapan awal hingga manajemen berkelanjutan. Ini memungkinkan agen AI untuk secara andal mengatur klaster HyperPod yang diatur oleh Amazon EKS atau Slurm lengkap dengan prasyarat, didukung oleh template CloudFormation yang mengoptimalkan jaringan, penyimpanan, dan sumber daya komputasi. Klaster yang dibuat melalui server MCP ini sepenuhnya dioptimalkan untuk pelatihan terdistribusi berkinerja tinggi dan beban kerja inferensi, memanfaatkan arsitektur praktik terbaik untuk memaksimalkan throughput dan meminimalkan latensi dalam skala besar. Selain itu, ia menyediakan alat komprehensif untuk manajemen klaster dan simpul—termasuk operasi penskalaan, menerapkan patch perangkat lunak, dan melakukan berbagai tugas pemeliharaan. Saat digunakan bersama dengan Server AWS API MCP, Server AWS Knowledge MCP, dan Server Amazon EKS MCP, Anda mendapatkan cakupan lengkap untuk semua API SageMaker HyperPod dan Anda dapat secara efektif memecahkan masalah umum, seperti mendiagnosis mengapa simpul klaster tidak dapat diakses. Untuk administrator klaster, alat ini merampingkan operasi harian. Untuk ilmuwan data, mereka memungkinkan Anda untuk menyiapkan klaster AI/ML dalam skala besar tanpa memerlukan keahlian infrastruktur, memungkinkan Anda untuk fokus pada hal yang paling penting—pelatihan dan men-deploy model.
Anda dapat mengelola klaster AI/ML melalui server SageMaker AI MCP di semua region tempat SageMaker HyperPod tersedia. Untuk memulai, kunjungi dokumentasi AWS MCP Server.