AWS Trainium

AWS Trainium adalah akselerator machine learning (ML) generasi kedua yang dibuat khusus oleh AWS untuk pelatihan deep learning lebih dari 100 miliar model parameter. Setiap instans Trn1 Amazon Elastic Compute Cloud (EC2) melakukan deployment hingga 16 akselerator AWS Trainium untuk memberikan solusi beperforma tinggi dan berbiaya rendah untuk pelatihan deep learning (DL) di cloud. Meskipun penggunaan deep learning serta AI generatif meningkat, banyak tim pengembangan mengalami keterbatasan anggaran tetap sehingga membatasi cakupan dan frekuensi pelatihan yang diperlukan untuk meningkatkan model dan aplikasi mereka. Instans Trn1 EC2 berbasis Trainium mengatasi tantangan ini dengan menawarkan waktu pelatihan yang lebih cepat sekaligus penghematan biaya pelatihan hingga 50% dibandingkan instans Amazon EC2 yang setara. Trainium telah dioptimalkan untuk melatih model pemrosesan bahasa alami, penglihatan komputer, dan pemberi rekomendasi yang digunakan dalam beragam aplikasi, seperti peringkasan teks, pembuatan kode, penjawab pertanyaan, pembuatan gambar dan video, rekomendasi, serta deteksi kecurangan.

SDK AWS Neuron membantu developer melatih model pada akselerator AWS Trainium (dan melakukan deployment pada model tersebut di akselerator AWS Inferentia). SDK AWS Neuron terintegrasi secara native dengan kerangka kerja populer, seperti PyTorch dan TensorFlow, sehingga Anda dapat terus menggunakan kode dan alur kerja yang ada serta berlatih di akselerator Trainium.