Amazon ECS รองรับการจัดกำหนดการ GPU แบบเศษส่วนด้วยอินสแตนซ์ Amazon EC2 G6f แล้ว
ขณะนี้ Amazon Elastic Container Service (Amazon ECS) รองรับการจัดกำหนดการ GPU แบบเศษส่วนด้วยอินสแตนซ์ Amazon EC2 G6f ซึ่งช่วยให้คุณเรียกใช้เวิร์กโหลดบนพาร์ทิชัน GPU ที่มีขนาดเล็กเพียงหนึ่งในแปดของ NVIDIA L4 Tensor Core GPU พร้อมหน่วยความจำ GPU ขนาด 3 GB GPU แบบเศษส่วนช่วยให้คุณมีความยืดหยุ่นในการเลือกขนาดคอนเทนเนอร์ให้เหมาะสมสำหรับการอนุมาน AI ด้วยโมเดลขนาดเล็ก การทดลองโมเดล การเรนเดอร์กราฟิก และเวิร์กโหลดอื่นๆ ที่ไม่จำเป็นต้องใช้ GPU เต็มรูปแบบ ซึ่งช่วยลดค่าใช้จ่ายด้านโครงสร้างพื้นฐานเมื่อเทียบกับการจัดสรรอินสแตนซ์ GPU เต็มรูปแบบ
คุณสามารถขอ GPU แบบเศษส่วนได้โดยตั้งค่า GPU=0.125, GPU=0.25 หรือ GPU=0.5 ในข้อกำหนดคอนเทนเนอร์ของข้อกำหนดงาน Amazon ECS จากนั้น Amazon ECS จะจัดวางงานบนอินสแตนซ์ G6f ที่ตรงตามคำขอ การกำหนดค่า GPU แบบเศษส่วนรองรับทั้งอินสแตนซ์ที่มีการจัดการของ Amazon ECS และ Amazon ECS บน EC2 เมื่อใช้อินสแตนซ์ที่มีการจัดการของ ECS คุณจะได้รับประสบการณ์ที่มีการจัดการเต็มรูปแบบ โดย ECS จะจัดการการจัดสรรอินสแตนซ์ การปรับขนาด การติดตั้งแพตช์ และการจัดการวงจรชีวิตโดยอัตโนมัติ เพื่อให้คุณสามารถมุ่งเน้นไปที่เวิร์กโหลด GPU แทนการดำเนินงานด้านโครงสร้างพื้นฐาน อินสแตนซ์ที่มีการจัดการของ ECS ยังมีความสามารถที่สร้างขึ้นโดยเฉพาะสำหรับเวิร์กโหลดแบบเร่งความเร็ว เช่น เมตริก GPU ผ่าน Amazon CloudWatch Container Insights และการติดตามตรวจสอบสถานะโดยอัตโนมัติ ที่ตรวจจับความล้มเหลวของฮาร์ดแวร์ GPU และแทนที่อินสแตนซ์ที่มีสถานะไม่สมบูรณ์เพื่อลดการหยุดชะงักของเวิร์กโหลดให้เหลือน้อยที่สุด
ความสามารถนี้พร้อมใช้งานใน AWS Region ทุกแห่งที่มีอินสแตนซ์ Amazon EC2 G6f ให้บริการ ในการเริ่มต้นใช้งาน ให้ใช้คอนโซลการจัดการของ AWS, AWS CLI, AWS SDK, AWS CloudFormation หรือเครื่องมือโครงสร้างพื้นฐานในรูปแบบโค้ดอื่นๆ เพื่อกำหนดค่าผู้ให้บริการปริมาณการประมวลผลด้วยอินสแตนซ์ G6f และระบุค่า GPU แบบเศษส่วนในข้อกำหนดคอนเทนเนอร์ของข้อกำหนดงาน ECS หากต้องการเรียนรู้เพิ่มเติม โปรดดูเอกสารประกอบ GPU แบบเศษส่วนของ Amazon ECS และหน้าอินสแตนซ์ Amazon EC2 G6