การแบ่งเวลาของ NVIDIA GPU พร้อมให้ใช้งานแล้วสำหรับ Bottlerocket เพื่อการเพิ่มประสิทธิภาพเวิร์กโหลดของ AI/ML
วันนี้ AWS ได้ประกาศเปิดตัวการสนับสนุนการแบ่งเวลาของ NVIDIA GPU สำหรับ Bottlerocket ซึ่งเป็นระบบปฏิบัติการที่มีพื้นฐานจาก Linux ที่สร้างขึ้นมาโดยเฉพาะสำหรับการโฮสต์คอนเทนเนอร์ โดยมุ่งเน้นไปที่การรักษาความปลอดภัย ร่องรอยที่น้อยที่สุด และการอัปเดตที่ปลอดภัย ฟีเจอร์ใหม่นี้ตอบโจทย์ความท้าทายของการเพิ่มการใช้งาน GPU ให้มากที่สุดในสภาพแวดล้อมที่มีผู้เช่าหลายรายและจำกัดทรัพยากร โดยการเปิดใช้งานการแชร์ทรัพยากร GPU ที่มีประสิทธิภาพมากขึ้นสำหรับเวิร์กโหลดปัญญาประดิษฐ์/แมชชีนเลิร์นนิง (AI/ML) ที่ทำงานบนคอนเทนเนอร์
การสนับสนุนการแบ่งเวลาของ Bottlerocket อนุญาตให้หลายงานสามารถเข้าถึง GPU เดียวพร้อมกันได้ ด้วยการแบ่งเวลาการประมวลผลของ GPU ออกเป็นช่วงเวลาที่สั้นลงหรือ “ชิ้นส่วน” ฟีเจอร์นี้ทำให้ลูกค้า Bottlerocket สามารถเรียกใช้โมเดล AI/ML หลายโมเดลบน GPU เดียวได้ เป็นการปรับปรุงการใช้งาน GPU และทำให้ปรับขนาดเวิร์กโหลดได้อย่างมีประสิทธิภาพมากขึ้น
ตอนนี้ การแบ่งเวลาของ GPU บน Bottlerocket พร้อมใช้งานแล้วในรีเจี้ยนเชิงพาณิชย์ทุกแห่งและ AWS GovCloud (สหรัฐฯ) หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับฟีเจอร์การแบ่งเวลาของ GPU ของ Bottlerocket โปรดไปที่เว็บไซต์นักพัฒนา Bottlerocket