AWS ประกาศเปิดตัว TorchNeuron: การรองรับ PyTorch แบบเนทีฟสำหรับ AWS Trainium (รุ่นเบต้าสาธารณะ)
วันนี้ AWS เปิดตัว TorchNeuron รุ่นเบต้าสาธารณะ ซึ่งเป็นแบ็กเอนด์ PyTorch แบบเนทีฟและเป็นโอเพนซอร์สสำหรับ AWS Trainium Trainium เป็นกลุ่มผลิตภัณฑ์ชิป AI ที่ออกแบบมาเพื่อมอบประสิทธิภาพสูงและความคุ้มค่าด้านต้นทุนสำหรับเวิร์กโหลดการฝึก AI แบบดีปเลิร์นนิงและการอนุมาน TorchNeuron ช่วยให้นักวิทยาศาสตร์และนักวิจัยด้าน AI สามารถทดลองและสร้างโมเดลด้วย PyTorch แบบเนทีฟบน Trainium ได้
ด้วย TorchNeuron นักพัฒนาสามารถเปิดใช้งานโค้ด PyTorch ของตนบน Trainium ได้ง่ายๆ เพียงเปลี่ยนไปใช้ .to('neuron') ขณะที่ยังคงรองรับ PyTorch ได้อย่างเต็มรูปแบบ ทั้ง Eager Execution, torch.compile และ PyTorch API มาตรฐาน นอกจากนี้ TorchNeuron ยังผสานรวมกับ Neuron Kernel Interface (NKI) เพื่อรองรับตัวดำเนินการแบบกำหนดเองและการเพิ่มประสิทธิภาพสำหรับฮาร์ดแวร์ Trainium
TorchNeuron พร้อมให้ใช้งานในรูปแบบโอเพนซอร์สผ่านคลัง GitHub ของ TorchNeuron สำหรับอินสแตนซ์ Amazon EC2 Trainium2 และอินสแตนซ์ Amazon EC2 Trainium3
ดูข้อมูลเพิ่มเติมเกี่ยวกับ TorchNeuron และตัวเร่ง AWS Trainium ได้ที่ หน้า AWS Neuron