ขณะนี้ โมเดล Ministral-3-3B-Instruct-2512 และ Ministral-3-8B-Instruct-2512 พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart
โมเดล Ministral-3-3B-Instruct-2512 และ Ministral-3-8B-Instruct-2512 ของ Mistral AI พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart ซึ่งเป็นการขยายพอร์ตโฟลิโอของโมเดลพื้นฐานที่พร้อมใช้งานสำหรับลูกค้า AWS โมเดลทั้งสองจากตระกูล Ministral 3 เป็นโมเดลภาษาขนาดกะทัดรัดที่มีความสามารถด้านการประมวลผลภาพ ซึ่งสร้างขึ้นตามวัตถุประสงค์สำหรับการนำไปใช้จริงที่ Edge และสภาพแวดล้อมที่มีทรัพยากรจำกัด โดยช่วยให้ลูกค้าสามารถติดตั้งใช้งานโซลูชัน AI ประสิทธิภาพสูงที่ปรับขนาดได้บนโครงสร้างพื้นฐานของ AWS
โมเดลเหล่านี้ช่วยตอบโจทย์ความท้าทายด้าน AI สำหรับองค์กรในด้านต่างๆ ด้วยความสามารถเฉพาะทาง:
Ministral-3-3B-Instruct-2512 ได้รับการออกแบบมาสำหรับการนำไปใช้จริงที่ Edge ซึ่งใช้ทรัพยากรน้อยมาก พร้อมความสามารถในการทำความเข้าใจข้อมูลหลายรูปแบบ ประกอบด้วยโมเดลภาษาขนาด 3.4B และตัวเข้ารหัสภาพขนาด 0.4B โดยใช้ VRAM เพียง 8GB ในรูปแบบ FP8 พร้อมรองรับหน้าต่างบริบทขนาด 256,000 โทเค็น มีความสามารถในการวิเคราะห์ภาพ การปฏิบัติตามคำสั่งหลายภาษาในภาษาต่างๆ หลายสิบภาษา (รวมถึงภาษาอังกฤษ, ฝรั่งเศส, สเปน, เยอรมัน, จีน, ญี่ปุ่น, เกาหลี และอาหรับ) การปฏิบัติตามพร้อมท์ระบบได้อย่างแม่นยำ และการเรียกใช้ฟังก์ชันแบบเนทีฟพร้อมเอาต์พุต JSON ที่มีโครงสร้าง ทั้งหมดนี้อยู่ภายใต้สิทธิ์การใช้งาน Apache 2.0
Ministral-3-8B-Instruct-2512 มอบความสามารถระดับ Frontier ที่เทียบเคียงได้กับ Mistral Small 3.2 24B รุ่นที่มีขนาดใหญ่กว่าในรูปแบบขนาดกะทัดรัด 8B โดยสร้างขึ้นด้วยโมเดลภาษาขนาด 8.4B และตัวเข้ารหัสภาพขนาด 0.4B โดยใช้ VRAM 12GB ในรูปแบบ FP8 และมีรูปแบบ Sliding-Window Attention แบบสลับกัน เพื่อการอนุมานที่รวดเร็วขึ้นและใช้หน่วยความจำอย่างมีประสิทธิภาพ มีความสามารถด้านการประมวลผลภาพ, หลายภาษา, แบบ Agent และการเรียกใช้ฟังก์ชันเช่นเดียวกับโมเดลรุ่น 3B ในตระกูลเดียวกัน พร้อมทั้งมีประสิทธิภาพด้านการใช้เหตุผลและการสร้างเนื้อหาที่สูงกว่า
ด้วย SageMaker JumpStart ลูกค้าสามารถติดตั้งใช้งานโมเดลใดก็ได้เหล่านี้ด้วยการคลิกเพียงไม่กี่ครั้ง เพื่อรองรับกรณีการใช้งาน AI เฉพาะของตน
ในการเริ่มต้นใช้งานโมเดลเหล่านี้ ให้ไปที่แคตตาล็อกโมเดล SageMaker JumpStart ในคอนโซล SageMaker หรือใช้ SageMaker Python SDK เพื่อติดตั้งใช้งานโมเดลไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart