การประกาศเปิดตัว AWS Neuron SDK 2.27.0
วันนี้ AWS ประกาศเปิดตัว Neuron SDK 2.27.0 ซึ่งเป็นการรองรับ Trainium3 UltraServer พร้อมส่วนประกอบโอเพ่นซอร์สที่ขยายตัว นอกจากนี้ Neuron ยังเปิดตัวชุดเครื่องมือ Neuron Explorer, Enhanced NKI ด้วยโอเพนซอร์ส NKI คอมไพเลอร์ ที่สร้างบน MLIR (เบต้าส่วนแบบตัว) ไลบรารี NKI ของเคอร์เนลที่ปรับให้เหมาะสม การรองรับ PyTorch แบบเนทีฟผ่าน TorchNeuron (เบต้าแบบส่วนตัว) และ Neuron DRA สำหรับการจัดการทรัพยากร Kubernets แบบเนทีฟ (เบต้าแบบส่วนตัว)
การอัปเดตเหล่านี้ช่วยให้เฟรมเวิร์กมาตรฐานทำงานได้ไม่เปลี่ยนแปลงบน Trainium ซึ่งขจัดอุปสรรคสำหรับนักวิจัยในการทดลองและสร้างสรรค์นวัตกรรม สำหรับนักพัฒนาที่ต้องการการควบคุมที่ลึกซึ้งยิ่งขึ้น Neuron Kernel Interface (NKI) Beta 2 ที่ผ่านการปรับปรุงให้เข้าถึงการเพิ่มประสิทธิภาพระดับฮาร์ดแวร์โดยตรง ทำให้ลูกค้าสามารถปรับขนาดเวิร์กโหลด AI ด้วยประสิทธิภาพที่ดีขึ้น หากคุณสนใจในการเข้าถึงฟีเจอร์และการปรับปรุงใหม่ๆ ของ NKI ตั้งแต่เนิ่นๆ คุณสามารถเข้าร่วมโปรแกรมเบต้าแบบส่วนตัวของ Neuron ได้
SDK เวอร์ชันใหม่มีให้บริการใน AWS Region ทั้งหมดที่รองรับอินสแตนซ์ Inferentia และ Trainium ซึ่งนำเสนอประสิทธิภาพที่เพิ่มขึ้นและความสามารถในการตรวจสอบสำหรับเวิร์กโหลดแมชชีนเลิร์นนิง
โปรดดูรายละเอียดเพิ่มเติมได้ที่นี่