Instans Notebook Amazon SageMaker kini mendukung instans berbasis Trainium1 dan Inferentia 2
Kami dengan bangga mengumumkan ketersediaan umum instans EC2 berbasis Trainium1 dan Inferentia2 pada Instans Notebook SageMaker.
Instans Trn1 Amazon EC2 yang didukung chip AWS Trainium, dan instans Inf2, didukung chip AWS Inferentia, masing-masing dibuat khusus untuk pelatihan dan inferensi deep learning berkinerja tinggi. Instans Trn1 menawarkan biaya yang lebih hemat dibandingkan instans Amazon EC2 sebanding lainnya untuk melatih model AI generatif 100 B+ parameter seperti model bahasa besar (LLM) dan difusi laten. Instans Inf2 memberikan inferensi berbiaya rendah dan berkinerja tinggi untuk AI generatif termasuk LLM dan transformator visi. Anda dapat menggunakan instans Trn1 dan Inf2 di berbagai rangkaian aplikasi, seperti ringkasan teks, pembuatan kode, penjawab pertanyaan, pembuatan gambar dan video, rekomendasi, dan deteksi penipuan.
Instans Trn1 Amazon EC2 tersedia untuk Instans Notebook SageMaker di region AWS AS Timur (Virginia Utara dan Ohio) dan AS Barat (Oregon). Instans Trn1n Amazon EC2 tersedia untuk SageMaker NBI di AWS AS Timur (Virginia Utara dan Ohio). Instans Inf2 Amazon EC2 tersedia untuk SageMaker NBI di AWS AS Barat (Oregon), AWS AS Timur (Virginia Utara dan Ohio), AWS UE (Irlandia), AWS UE (Frankfurt), AWS Asia Pasifik (Tokyo), AWS Asia Pasifik (Sydney), AWS Asia Pasifik (Mumbai), AWS UE (London), AWS Asia Pasifik (Singapura), AWS UE (Stockholm), AWS UE (Paris), dan AWS Amerika Selatan (Sao Paulo).
Kunjungi panduan developer untuk petunjuk tentang cara menyiapkan dan menggunakan Instans Notebook SageMaker.