GLM 5.3 by Z.ai พร้อมใช้งานทั่วไปแล้วบน Amazon Bedrock
ขณะนี้ Amazon Bedrock รองรับ GLM 5.3 จาก Z.ai แล้ว ซึ่งมอบทางเลือกใหม่ที่ทรงพลังสำหรับการเขียนโค้ดด้วยระบบ Agent และงานวิศวกรรมซอฟต์แวร์ที่ต้องอาศัยกระบวนการทำงานระยะยาว ลูกค้าที่ใช้งาน GLM 5.3 บน Amazon Bedrock สามารถเข้าถึงโมเดล Open Weight ล่าสุดได้ โดยมาพร้อมกับมาตรการรักษาความปลอดภัยและการปฏิบัติตามข้อกำหนดของ AWS
GLM 5.3 เป็นโมเดลเรือธงของ Z.ai ที่ใช้สถาปัตยกรรมแบบ Mixture-of-Experts โดยมีพารามิเตอร์รวม 753B และมีพารามิเตอร์ที่ทำงานจริงประมาณ 40B ต่อหนึ่งโทเค็น โมเดลนี้พัฒนาขึ้นบนพื้นฐานเดียวกับ GLM 5.2 โดยการปรับปรุงทั้งหมดเกิดจากการปรับขนาดการฝึกฝนในขั้นตอนหลังการฝึกอบรม ระบบนี้ผสานรวมหน้าต่างบริบทขนาด 1 ล้านโทเค็นเข้ากับโทเค็นเอาต์พุตสูงสุด 128K และการใช้เหตุผลจะเปิดใช้งานอยู่เสมอพร้อมระดับความพยายามที่เลือกได้ เพื่อให้คุณสามารถแลกเปลี่ยนเวลาแฝงและปริมาณการใช้โทเค็นกับประสิทธิภาพของงานได้
การรองรับ GLM 5.3 บน Bedrock มาพร้อมกับการแคชพร้อมท์อย่างชัดเจน พร้อมจุดแคชบนพร้อมท์ของระบบและข้อความต่างๆ ซึ่งช่วยลดเวลาแฝงและต้นทุนด้านอินพุตเมื่อมีการนำบริบทเดิมกลับมาใช้ซ้ำในการเรียกใช้โมเดล
GLM 5.3 เปิดให้ใช้งานสำหรับลูกค้าองค์กรที่มีคุณสมบัติตามเกณฑ์ โดยสามารถเข้าถึงได้ผ่านโปรไฟล์การอนุมานแบบข้ามรีเจี้ยนทั้งของสหรัฐฯ และทั่วโลก สำหรับการเริ่มต้นใช้งาน GLM 5.3 คุณสามารถเข้าถึงโมเดลได้ในคอนโซล Amazon Bedrock หรือผ่านโปรแกรมโดยใช้ API ของ Amazon Bedrock ที่รองรับ สำหรับข้อมูลเกี่ยวกับ AWS Region ที่รองรับ, ตำแหน่งข้อมูล API, ฟีเจอร์, โปรไฟล์การอนุมาน และค่าบริการ โปรดดูเอกสารประกอบ Amazon Bedrock หากต้องการดูข้อมูลเพิ่มเติม โปรดอ่านบล็อกโพสต์เกี่ยวกับการเปิดตัว