ปรับแต่งซอฟต์แวร์และเวอร์ชันไดร์เวอร์การปรับใช้โมเดลของ Amazon SageMaker ของคุณ
ตอนนี้ คุณสามารถเลือกซอฟต์แวร์และเวอร์ชันไดร์เวอร์ที่ใช้โดยอินสแตนซ์ที่เหมาะกับความต้องการของคุณมากที่สุดได้แล้วเมื่อปรับใช้โมเดลบน SageMaker Amazon SageMaker ช่วยให้ปรับใช้โมเดล ML รวมถึงโมเดลพื้นฐาน (FM) ได้ง่ายขึ้น เพื่อส่งคำขอการอนุมานด้วยอัตราส่วนราคาต่อประสิทธิภาพที่คุ้มค่าที่สุดสำหรับทุกกรณีการใช้งาน
ก่อนหน้านี้ ลูกค้าต้องใช้ซอฟต์แวร์ที่ตั้งไว้ล่วงหน้าและเวอร์ชันไดร์เวอร์ที่กำหนดโดย SageMaker ในอินสแตนซ์ที่มีการจัดการซึ่งอยู่เบื้องหลังตำแหน่งข้อมูล ตอนนี้ ลูกค้าสามารถระบุพารามิเตอร์ “InferenceAmiVersion” เมื่อกำหนดค่าตำแหน่งข้อมูลเพื่อเลือกจับคู่ซอฟต์แวร์และเวอร์ชันไดรเวอร์ (เช่น เวอร์ชันไดร์เวอร์ Nvidia และ CUDA) ที่ตอบสนองความต้องการของตนได้ดีที่สุดได้แล้ว วิธีนี้จะช่วยให้คุณสามารถปรับสภาพแวดล้อมการโฮสต์ของคุณให้ตรงกับข้อกำหนดด้านประสิทธิภาพ ความเข้ากันได้ ความสามารถในการปรับขนาด และการดำเนินงานของแอปพลิเคชัน ML ของคุณได้ เมื่อใช้พารามิเตอร์นี้ คุณยังสามารถลดระดับและอัปเกรดเวอร์ชันไดร์เวอร์สำหรับตำแหน่งข้อมูลของคุณได้ตามเวลาที่คุณเลือกเอง
ฟีเจอร์นี้พร้อมใช้งานในทุกรีเจี้ยนที่มี SageMaker ให้บริการ คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับการปรับใช้โมเดลบน SageMaker ได้ที่นี่ และเรียนรู้เพิ่มเติมเกี่ยวกับฟีเจอร์นี้ได้ในเอกสารประกอบของเรา