SageMaker HyperPod รองรับการแบ่งปันทรัพยากรที่ไม่ได้ใช้งานเพื่อการใช้งานคลัสเตอร์แบบไดนามิกแล้ว
การกำกับดูแล Task ของ Amazon SageMaker HyperPod รองรับการแบ่งปันทรัพยากรแบบไดนามิกแล้ว ซึ่งทำให้ทีมต่าง ๆ สามารถยืมความสามารถในการประมวลผลที่ไม่ได้จัดสรรไว้ในคลัสเตอร์ HyperPod นอกเหนือจากโควตาที่รับประกัน ผู้ดูแลระบบยังสามารถกำหนดค่าขีดจำกัดการยืมสำหรับประเภททรัพยากรเฉพาะ เช่น ตัวเร่งความเร็ว, vCPU หรือหน่วยความจำ เพื่อให้มั่นใจได้ว่ามีการกระจายอย่างยุติธรรมระหว่างทีม
ผู้ดูแลระบบที่ใช้งานคลัสเตอร์การประมวลผลแบบใช้ร่วมกันสำหรับเวิร์กโหลด AI ช่วยสร้าง มักเผชิญกับความท้าทายด้านการใช้ทรัพยากรไม่เต็มประสิทธิภาพ เมื่อนักวิทยาศาสตร์ข้อมูลไม่ได้ใช้โควตาที่จัดสรรไว้อย่างเต็มที่ อินสแตนซ์การประมวลผลที่มีราคาแพงก็จะยังคงไม่ได้ใช้งาน การแบ่งปันทรัพยากรที่ไม่ได้ใช้งานจะช่วยแก้ปัญหานี้โดยการระบุความจุของคลัสเตอร์ที่ยังไม่ได้จัดสรรโดยอัตโนมัติ และทำให้ทีมต่าง ๆ สามารถยืมได้ตามความพยายามอย่างเต็มที่ การกำกับดูแล Task ของ HyperPod จะตรวจติดตามสถานะคลัสเตอร์ของคุณและคำนวณทรัพยากรที่สามารถยืมได้ใหม่โดยอัตโนมัติเมื่ออินสแตนซ์และนโยบายโควตาการประมวลผลเปลี่ยนแปลงไป ซึ่งทำให้ไม่ต้องกำหนดค่าด้วยตนเอง อินสแตนซ์ที่มีสิทธิ์ซึ่งอยู่ในสถานะพร้อมใช้งานและสามารถกำหนดเวลาได้ รวมถึงอินสแตนซ์ที่มีการกำหนดค่า GPU แบบพาร์ติชัน จะมีส่วนช่วยในกลุ่มความสามารถในการประมวลผลที่ยังไม่ได้จัดสรรซึ่งสามารถยืมได้ ผู้ดูแลระบบยังสามารถกำหนดขีดจำกัดการยืมแบบสัมบูรณ์นอกเหนือจากขีดจำกัดการยืมตามเปอร์เซ็นต์ของการคำนวณที่ยังไม่ได้ใช้งานเช่นกัน การดำเนินการนี้ช่วยให้ผู้ดูแลระบบสามารถใช้ประโยชน์จากทรัพยากรการประมวลผลได้สูงสุด และรักษาการควบคุมอย่างละเอียดเกี่ยวกับวิธีการกระจายความจุที่ไม่ได้ใช้งานระหว่างทีม ในขณะเดียวกันก็รับประกันการแยกโควตาการประมวลผลสำหรับแต่ละทีม
ปัจจุบัน ความสามารถนี้พร้อมใช้งานสำหรับคลัสเตอร์ Amazon SageMaker HyperPod ที่ใช้เครื่องมือควบคุมระบบ EKS ใน AWS Region ต่อไปนี้ ได้แก่ สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันออก (โอไฮโอ), สหรัฐอเมริกาฝั่งตะวันตก (แคลิฟอร์เนียเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (มุมไบ), เอเชียแปซิฟิก (สิงคโปร์), เอเชียแปซิฟิก (ซิดนีย์) และเอเชียแปซิฟิก (โตเกียว), เอเชียแปซิฟิก (จาการ์ตา), ยุโรป (แฟรงก์เฟิร์ต), ยุโรป (ไอร์แลนด์), ยุโรป (ลอนดอน), ยุโรป (สตอกโฮล์ม), ยุโรป (สเปน) และอเมริกาใต้ (เซาเปาลู)
หากต้องการดูเพิ่มเติม โปรดไปที่หน้าเว็บ SageMaker HyperPod และเอกสารประกอบการกำกับดูแล Task ของ HyperPod