Amazon SageMaker AI รองรับความสามารถของแผนการฝึกที่ยืดหยุ่นสำหรับการอนุมานแล้ว
แผนการฝึกแบบยืดหยุ่น (FTP) ของ Amazon SageMaker AI รองรับตำแหน่งข้อมูลการอนุมานซึ่งช่วยให้ลูกค้ารับประกันความสามารถของ GPU สำหรับการประเมินตามแผนและการใช้งานจริงสูงสุด ตอนนี้ ลูกค้าสามารถสำรองประเภทอินสแตนซ์ตามที่ต้องการอย่างแม่นยำและพึ่งพา SageMaker AI เพื่อนำตำแหน่งข้อมูลการอนุมานมาโดยอัตโนมัติ โดยไม่ต้องจัดการโครงสร้างพื้นฐานด้วยตัวเอง
เมื่อลูกค้าวางแผนรอบการพัฒนา ML พวกเขาต้องการความมั่นใจว่า GPU ที่จำเป็นสำหรับการประเมินโมเดลและการทดสอบก่อนการใช้งานจริงจะพร้อมใช้งานในวันที่แน่นอนที่พวกเขาต้องการ FTP ช่วยให้ลูกค้าสามารถเข้าถึงความจุ GPU เพื่อเรียกใช้เวิร์กโหลด ML ได้ง่าย ด้วยการสนับสนุน FTP สำหรับตำแหน่งข้อมูลการอนุมานจะทำให้คุณสามารถเลือกประเภทอินสแตนซ์ที่คุณต้องการ ข้อกำหนดในการคำนวณ ระยะเวลาการจอง และวันที่เริ่มต้นสำหรับเวิร์กโหลดการอนุมานของคุณ เมื่อสร้างตำแหน่งข้อมูล คุณเพียงอ้างอิงการจอง ARN และ SageMaker AI ที่กำหนดโดยอัตโนมัติและเรียกใช้ตำแหน่งข้อมูลบนความจุที่รับประกันนั้นตลอดระยะเวลาของแผน สิ่งนี้จะขจัดความพยายามในการจัดการโครงสร้างพื้นฐานและการจัดตารางเวลาหลายสัปดาห์ ช่วยให้คุณดำเนินการอนุมานได้อย่างคาดเดาได้ในขณะที่มุ่งเน้นเวลาของคุณไปที่การปรับปรุงประสิทธิภาพของโมเดล
การสนับสนุนแผนการฝึกที่ยืดหยุ่นสำหรับ SageMaker AI Inference มีให้บริการในรีเจี้ยนต่อไปนี้: สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ) สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน) และสหรัฐอเมริกาฝั่งตะวันออก (โอไฮโอ)
หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับการใช้การจอง FTP สำหรับตำแหน่งข้อมูลการอนุมานโปรดไปที่การอ้างอิง SageMaker AI Inference API ที่นี่