Amazon SageMaker สำหรับ MLOps

ส่งมอบโมเดล ML ที่ผลิตประสิทธิภาพสูงในจำนวนมากได้อย่างรวดเร็ว

ทำไมต้องใช้งาน Why Amazon SageMaker MLOps

Amazon SageMaker มีเครื่องมือที่สร้างขึ้นตามจุดประสงค์สำหรับการดำเนินการด้านแมชชีนเลิร์นนิง (MLOps) ที่จะช่วยให้คุณกำหนดมาตรฐานและทำกระบวนการต่างๆ ให้เป็นอัตโนมัติในตลอดทั้งวงจรการใช้งาน ML เมื่อใช้เครื่องมือ SageMaker MLOps คุณสามารถฝึก ทดสอบ แก้ปัญหา นำไปใช้จริง และควบคุมโมเดล ML จำนวนมากได้ ทั้งนี้เพื่อเพิ่มประสิทธิผลของนักวิทยาศาสตร์ข้อมูลและวิศวกร ML ไปพร้อมๆ กับรักษาประสิทธิภาพของโมเดลในการผลิต

ทำงานอย่างไร

วิธีทำงาน

ประโยชน์ของ SageMaker MLOps

เร่งการพัฒนาโมเดล

จัดเตรียมสภาพแวดล้อมสำหรับวิทยาศาสตร์ข้อมูลที่ได้มาตรฐาน

การกำหนดมาตรฐานสภาพแวดล้อมการพัฒนา ML จะช่วยเพิ่มประสิทธิผลของนักวิทยาศาสตร์ข้อมูลและเร่งความเร็วของนวัตกรรมในท้ายที่สุด ผ่านการทำให้การเปิดตัวโปรเจกต์ใหม่ การหมุนเวียนนักวิทยาศาสตร์ข้อมูลข้ามโปรเจกต์ และการนำหลักปฏิบัติที่ดีที่สุดของ ML ไปใช้นั้นง่ายขึ้น Amazon SageMaker Projects มาพร้อมกับเทมเพลตสำหรับการจัดเตรียมสภาพแวดล้อมของนักวิทยาศาสตร์ข้อมูลที่ได้มาตรฐานอย่างรวดเร็ว ผ่านการใช้เครื่องมือและไลบรารี คลังการควบคุมแหล่งที่มา โค้ดต้นแบบ และไปป์ไลน์ CI/CD ที่ผ่านการทดสอบมาเป็นอย่างดีและทันสมัย

อ่านคู่มือนักพัฒนาเพื่อทำ MLOps ให้เป็นอัตโนมัติด้วยโปรเจกต์ SageMaker

SageMaker MLOps - การจัดเตรียมสภาพแวดล้อม ML ที่ได้มาตรฐาน

ทำงานร่วมกันโดยใช้ MLflow ระหว่างการทดลอง ML

การสร้างโมเดล ML เป็นกระบวนการที่ต้องทำซ้ำ ๆ ซึ่งเกี่ยวข้องกับการฝึกโมเดลหลายร้อยรายการเพื่อค้นหาอัลกอริทึม สถาปัตยกรรม และพารามิเตอร์ที่ดีที่สุดเพื่อให้โมเดลมีความถูกต้องแม่นยำสูงสุด MLflow ช่วยให้คุณสามารถติดตามอินพุตและเอาต์พุตในการทำซ้ำการฝึกเหล่านี้ ซึ่งช่วยปรับปรุงความสามารถในการทำซ้ำการทดลองทและส่งเสริมการทำงานร่วมกันระหว่างนักวิทยาศาสตร์ข้อมูล ด้วยความสามารถของ MLflow ที่มีการจัดการอย่างเต็มที่ คุณสามารถสร้างเซิร์ฟเวอร์ติดตาม MLflow สำหรับแต่ละทีมได้ ซึ่งช่วยอำนวยความสะดวกในการทำงานร่วมกันอย่างมีประสิทธิภาพในช่วงการทดลอง ML

Amazon SageMaker กับ MLflow จัดการวงจรแมชชีนเลิร์นนิงแบบครบวงจร ซึ่งปรับปรุงการฝึกโมเดลที่มีประสิทธิภาพ ติดตามการทดลองและความสามารถในการทำซ้ำในเฟรมเวิร์กและสภาพแวดล้อมรูปแบบต่างๆ โดยจะมาพร้อมกับอินเทอร์เฟซเดี่ยวที่คุณสามารถแสดงผลข้อมูลเกี่ยวกับงานการฝึกที่กำลังดำเนินอยู่ออกมาเป็นภาพ แชร์การทดลองกับเพื่อนร่วมงาน และลงทะเบียนโมเดลจากการทดลองโดยตรงได้

จัดการการทดลองแมชชีนเลิร์นนิงอย่างมีประสิทธิภาพด้วย MLflow

SageMaker Experiments

เวิร์กโฟลว์การปรับแต่งโมเดล GenAI โดยอัตโนมัติ

ด้วย Amazon SageMaker Pipelines คุณสามารถทำเวิร์กโฟลว์ ML แบบครบวงจรของการประมวลผลข้อมูล การฝึกแบบจำลอง การปรับแต่งประเมินและการปรับใช้ ML แบบครบวงจรโดยอัตโนมัติได้ สร้างโมเดลของคุณเองหรือปรับแต่งโมเดลฐานจาก SageMaker Jumpstart ด้วยการคลิกเพียงไม่กี่ครั้งในโปรแกรมแก้ไขภาพ Pipeline คุณสามารถกำหนดค่า SageMaker Pipelines ให้ทำงานโดยอัตโนมัติเป็นระยะ ๆ หรือเมื่อมีการเรียกใช้เหตุการณ์บางอย่าง (เช่น ข้อมูลการฝึกใหม่ใน S3)

เรียนรู้เพิ่มเติมเกี่ยวกับ Amazon SageMaker Pipelines

SageMaker Pipelines

ปรับใช้และจัดการโมเดลในการผลิตได้อย่างง่ายดาย

จำลองโมเดลของคุณซ้ำอย่างรวดเร็วเพื่อแก้ไขปัญหา

หลายๆ ครั้งคุณจะจำเป็นต้องจำลองโมเดลซ้ำในการใช้งานจริงเพื่อแก้ไขปัญหาพฤติกรรมของโมเดลและหาต้นตอของปัญหา Amazon SageMaker จะบันทึกทุกขั้นตอนของเวิร์กโฟลว์ สร้างเส้นทางการตรวจสอบอาร์ทิแฟกต์ของโมเดล เช่น ข้อมูลการฝึก การตั้งค่าการกำหนดค่า พารามิเตอร์ของโมเดล และการไล่ระดับการเรียนรู้ เมื่อใช้การติดตามเส้นทางขั้นตอน คุณจะสามารถจำลองโมเดลซ้ำเพื่อแก้จุดบกพร่องที่อาจเป็นปัญหาได้

เรียนรู้เพิ่มเติมเกี่ยวกับการติดตามเส้นทางขั้นตอนของ Amazon SageMaker ML

การติดตามเส้นทางขั้นตอนของ SageMaker

ติดตามและจัดการเวอร์ชันโมเดลจากส่วนกลาง

การสร้างแอปพลิเคชัน ML จะต้องใช้การพัฒนาโมเดล ไปป์ไลน์ด้านข้อมูล ไปป์ไลน์ด้านการฝึก และการทดสอบการตรวจสอบข้อมูล เมื่อใช้ระเบียนโมเดลของ Amazon SageMaker คุณสามารถติดตามเวอร์ชันโมเดล ข้อมูลเมตา เช่น การจัดกลุ่มกรณีการใช้งาน และเกณฑ์ตัวชี้วัดประสิทธิภาพของโมเดลในคลังเก็บข้อมูลส่วนกลาง ซึ่งจะสามารถเลือกโมเดลที่เหมาะสมสำหรับการนำไปใช้จริงได้อย่างง่ายดายตามข้อกำหนดทางธุรกิจของคุณ นอกจากนี้ SageMaker Model Registry ยังจะบันทึกข้อมูลเวิร์กโฟลว์การอนุมัติโดยอัตโนมัติ ทั้งนี้เพื่อใช้ในการตรวจสอบและการปฏิบัติตามข้อกำหนด

เรียนรู้เพิ่มเติมเกี่ยวกับการลงทะเบียนและนำโมเดลไปใช้จริงด้วยระเบียนโมเดล

ระเบียนโมเดล SageMaker

กำหนดโครงสร้างพื้นฐาน ML ผ่านโค้ด

การจัดระเบียบโครงสร้างพื้นฐานผ่านไฟล์การกำหนดค่าประกาศซึ่งมักเรียกว่า “โครงสร้างพื้นฐานเป็นโค้ด” เป็นแนวทางยอดนิยมในการจัดเตรียมโครงสร้างพื้นฐาน ML และการใช้สถาปัตยกรรมโซลูชันตามที่ระบุโดยไปป์ไลน์ CI/CD หรือเครื่องมือการนำไปใช้จริง เมื่อใช้ Amazon SageMaker Projects คุณสามารถเขียนโครงสร้างพื้นฐานเป็นโค้ดได้โดยใช้ไฟล์เทมเพลตที่สร้างไว้ล่วงหน้า

เรียนรู้เพิ่มเติมเกี่ยวกับวิธีทำ MLOps ให้เป็นอัตโนมัติด้วยโปรเจกต์ SageMaker

ทำเวิร์กโฟลว์การผสานรวมและการนำไปใช้จริง (CI/CD) ให้เป็นอัตโนมัติ

เวิร์กโฟลว์การพัฒนา ML ควรผสานรวมกับเวิร์กโฟลว์การผสานรวมและการนำไปใช้จริงเพื่อให้ส่งมอบโมเดลใหม่ๆ สำหรับแอปพลิเคชันการผลิตได้อย่างรวดเร็ว Amazon SageMaker Projects นำแนวปฏิบัติ CI/CD มาสู่ ML เช่น การรักษาความเท่าเทียมกันระหว่างสภาพแวดล้อมการพัฒนาและการใช้งานจริง การควบคุมแหล่งที่มาและเวอร์ชัน การทดสอบ, A/B และระบบอัตโนมัติตั้งแต่ต้นทางถึงปลายทาง ซึ่งช่วยให้คุณนำโมเดลไปใช้งานจริงได้ทันทีที่ได้รับอนุมัติและเพิ่มความคล่องตัว 

นอกจากนี้ Amazon SageMaker ยังมีมาตรการป้องกันในตัวเพื่อช่วยให้คุณรักษาความพร้อมใช้งานของตำแหน่งข้อมูลรวมถึงลดความเสี่ยงในการนำไปใช้จริงลง SageMaker จะจัดการด้านการตั้งค่าและจัดระเบียบหลักปฏิบัติที่ดีที่สุดในการนำไปใช้จริง เช่น การติดตั้งใช้งานแบบเปิดตัวระบบใหม่เทียบกับระบบเก่า (Blue/Green) ทั้งนี้เพื่อเพิ่มความพร้อมใช้งานและผสานรวมกับกลไกการอัปเดตของตำแหน่งข้อมูล เช่น กลไกการย้อนกลับอัตโนมัติ ทั้งนี้ก็เพื่อช่วยให้คุณระบุปัญหาโดยอัตโนมัติได้ตั้งแต่เนิ่นๆ และดำเนินการแก้ไขก่อนที่จะส่งผลกระทบต่อการผลิตอย่างมีนัยสำคัญ

สร้างโซลูชัน ML แบบตั้งแต่ต้นทางถึงปลายทางด้วย CI/CD โดยใช้โปรเจกต์ SageMaker

Amazon SageMaker CI/CD สำหรับแมชชีนเลิร์นนิง

การฝึกโมเดลอย่างต่อเนื่องเพื่อรักษาคุณภาพการคาดการณ์

เมื่อโมเดลนำไปใช้จริงแล้ว คุณจะต้องตรวจสอบประสิทธิภาพโดยกำหนดค่าการแจ้งเตือนเพื่อให้นักวิทยาศาสตร์ข้อมูลที่พร้อมปฏิบัติงานแก้ไขปัญหาและทริกเกอร์การฝึกซ้ำได้ Amazon SageMaker Model Monitor ช่วยให้คุณรักษาคุณภาพโดยตรวจจับความคลาดเคลื่อนของโมเดลและความคลาดเคลื่อนของแนวคิดแบบเรียลไทม์ จากนั้นจะส่งการแจ้งเตือนเพื่อให้คุณสามารถดำเนินการได้ทันที SageMaker Model Monitor ตรวจสอบลักษณะประสิทธิภาพของโมเดลอย่างต่อเนื่อง เช่น ความแม่นยำ ซึ่งจะวัดจำนวนการคาดการณ์ที่ถูกต้องเทียบกับจำนวนการคาดการณ์ทั้งหมด ทั้งนี้เพื่อให้คุณสามารถแก้ไขความผิดปกติได้ SageMaker Model Monitor ผสานรวมกับ SageMaker Clarify เพื่อปรับปรุงความชัดเจนเกี่ยวกับอคติที่อาจเกิดขึ้น

เรียนรู้เพิ่มเติม

SageMaker Model Monitor

ปรับการนำโมเดลไปใช้จริงให้เหมาะสมเพื่อเพิ่มประสิทธิภาพและลดค่าใช้จ่าย

Amazon SageMaker ทำให้ง่ายต่อการปรับใช้โมเดล ML สำหรับการอนุมานที่มีประสิทธิภาพสูงและต้นทุนต่ำในทุกกรณีใช้งาน โดยผลิตภัณฑ์มีโครงสร้างพื้นฐาน ML และตัวเลือกการนำโมเดลไปใช้จริงให้เลือกมากมาย ทั้งนี้เพื่อตอบสนองความต้องการด้านการอนุมาน ML ทั้งหมดของคุณ

เรียนรู้เพิ่มเติม

การโฮสต์โมเดล SageMaker