การแนะนำการอนุมานด้วย AI ช่วยสร้างสำหรับ Amazon SageMaker พร้อมใช้งานแล้วใน SageMaker AI Studio
ขณะนี้ Amazon SageMaker AI นำเสนอคำแนะนำการอนุมาน AI ช่วยสร้างใน SageMaker AI Studio มอบเส้นทางแบบมีคำแนะนำ Low-Code หรือ No-Code ให้แก่ลูกค้า เพื่อค้นหาการกำหนดค่าการอนุมานที่ดีที่สุดสำหรับเวิร์กโหลดของพวกเขา นี่เป็นการต่อยอดจากการเปิดตัวเวอร์ชัน API ในเดือนเมษายน 2026 โดยขยายโครงสร้างพื้นฐานการสร้างเกณฑ์มาตรฐานแบบเดียวกันไปยังทีมที่ต้องการเวิร์กโฟลว์แบบภาพมากกว่าการเข้าถึงแบบเป็นโปรแกรม
การติดตั้งใช้งานโมเดล AI ช่วยสร้างในสภาพแวดล้อมการใช้งานจริง จำเป็นต้องค้นหาการผสมผสานที่ลงตัวระหว่างประเภทของอินสแตนซ์ คอนเทนเนอร์ที่ให้บริการ และกลยุทธ์การเพิ่มประสิทธิภาพ โดยทั่วไปแล้ว การทำให้ได้ผลลัพธ์ที่ถูกต้องนั้นต้องใช้เวลาหลายสัปดาห์ในการสร้างเกณฑ์มาตรฐานด้วยตนเอง การปรับแต่งการตั้งค่า และการลองผิดลองถูก โดยไม่มีวิธีใดที่จะรู้ได้ง่ายๆ ว่าการตั้งค่าขั้นสุดท้ายนั้นเหมาะสมที่สุดแล้วจริงหรือไม่ ด้วยประสบการณ์การใช้งานรูปแบบใหม่นี้ ลูกค้าสามารถอธิบายเวิร์กโหลดและสิ่งที่สำคัญที่สุด ไม่ว่าจะเป็นเวลาแฝง อัตราการโอนถ่ายข้อมูล หรือต้นทุน และ SageMaker AI จะจัดการส่วนที่เหลือให้เอง โดยจะทำการสร้างเกณฑ์มาตรฐานของการกำหนดค่าบนโครงสร้างพื้นฐาน GPU จริงหลายรายการโดยใช้ NVIDIA AIPerf ประยุกต์ใช้เทคนิคที่สอดคล้องกับเป้าหมาย เช่น การถอดรหัสแบบคาดการณ์ล่วงหน้าเพื่ออัตราการโอนถ่ายข้อมูล หรือการปรับแต่งเคอร์เนลเพื่อลดเวลาแฝง และส่งคืนคำแนะนำที่จัดอันดับพร้อมใช้งานจริงที่มีข้อมูลประสิทธิภาพที่วัดได้ ทีมงานสามารถกำหนดค่าระบบได้อย่างถูกต้องภายในเวลาไม่กี่ชั่วโมง แทนที่จะใช้เวลาหลายสัปดาห์ โดยไม่ต้องตัดสินใจว่าจะใช้เทคนิคใดหรือจะกำหนดค่าอย่างไร
ด้วยประสบการณ์การใช้งานรูปแบบใหม่นี้ ลูกค้าสามารถอธิบายเวิร์กโหลดและสิ่งที่สำคัญที่สุด ไม่ว่าจะเป็นเวลาแฝง อัตราการโอนถ่ายข้อมูล หรือต้นทุน และ SageMaker AI จะจัดการส่วนที่เหลือให้เอง โดยจะทำการสร้างเกณฑ์มาตรฐานของการกำหนดค่าบนโครงสร้างพื้นฐาน GPU จริงหลายรายการโดยใช้ NVIDIA AIPerf ประยุกต์ใช้เทคนิคที่สอดคล้องกับเป้าหมาย เช่น การถอดรหัสแบบคาดการณ์ล่วงหน้าเพื่ออัตราการโอนถ่ายข้อมูล หรือการปรับแต่งเคอร์เนลเพื่อลดเวลาแฝง และส่งคืนคำแนะนำที่จัดอันดับพร้อมใช้งานจริงที่มีข้อมูลประสิทธิภาพที่วัดได้ ทีมงานสามารถกำหนดค่าระบบได้อย่างถูกต้องภายในเวลาไม่กี่ชั่วโมง แทนที่จะใช้เวลาหลายสัปดาห์ โดยไม่ต้องตัดสินใจว่าจะใช้เทคนิคใดหรือจะกำหนดค่าอย่างไร
ใน SageMaker AI Studio ภายใต้หัวข้อ Jobs (งาน), Inference optimization (การเพิ่มประสิทธิภาพการอนุมาน) ลูกค้าสามารถเลือกโปรไฟล์กรณีการใช้งาน (Interact (โต้ตอบ), Generate (สร้าง), Summarize (สรุป) หรือ Custom (กำหนดเอง)) เลือกเป้าหมายการเพิ่มประสิทธิภาพ (ลดเวลาแฝง เพิ่มอัตราการโอนถ่ายข้อมูล หรือลดต้นทุน) และเลือกโมเดลจาก JumpStart, S3, ระเบียนโมเดล หรือโมเดล SageMaker ที่มีอยู่แล้วได้ คำแนะนำจะถูกจัดอันดับตาม TTFT, เวลาแฝงระหว่างโทเค็น, อัตราการโอนถ่ายข้อมูล และต้นทุน และสามารถเปรียบเทียบได้ด้วยภาพก่อนที่จะปรับใช้กับตำแหน่งข้อมูลแบบเรียลไทม์ของ SageMaker โดยตรงจาก Studio
ไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับการสร้างคำแนะนำ ค่าใช้จ่ายในการประมวลผลมาตรฐานจะถูกนำมาใช้สำหรับงานเพิ่มประสิทธิภาพและตำแหน่งข้อมูลที่จัดเตรียมไว้ระหว่างการเปรียบเทียบประสิทธิภาพ ความสามารถนี้พร้อมให้ใช้งานในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), สหรัฐอเมริกาฝั่งตะวันออก (โอไฮโอ), ยุโรป (ไอร์แลนด์), ยุโรป (แฟรงก์เฟิร์ต), เอเชียแปซิฟิก (สิงคโปร์), เอเชียแปซิฟิก (โตเกียว) หากต้องการเรียนรู้เพิ่มเติม โปรดไปที่บล็อกโพสต์ หรือเอกสารประกอบ