Amazon SageMaker AI Batch Transform kini mendukung instans G6e
Amazon SageMaker AI kini mendukung instans G6e Amazon EC2 untuk transformasi batch. Batch Transform memungkinkan Anda menjalankan prediksi pada set data yang disimpan di Amazon S3 dan cocok untuk set data besar yang tidak memerlukan titik akhir inferensi persisten.
Instans Amazon EC2 G6e ditenagai oleh hingga delapan GPU NVIDIA L40S Tensor Core dengan memori 48 GB per GPU serta prosesor AMD EPYC generasi ketiga. Instans G6e memberikan peningkatan kinerja untuk beban kerja yang intensif terhadap GPU. Dengan peluncuran ini, Anda dapat menggunakan instans G6e untuk beban kerja inferensi offline yang intensif terhadap GPU, termasuk model bahasa berskala besar serta model difusi yang menghasilkan gambar, video, dan audio. Untuk memulai, pilih tipe instans ml.g6e yang didukung saat membuat pekerjaan Batch Transform melalui AWS SDK, AWS CLI, atau API CreateTransformJob.
Dukungan G6e untuk Batch Transform tersedia di AS Timur (Virginia Utara), AS Timur (Ohio), AS Barat (Oregon), Asia Pasifik (Mumbai), dan Asia Pasifik (Hyderabad). Untuk mempelajari lebih lanjut, kunjungi halaman produk Amazon SageMaker AI dan lihat dokumentasi Batch Transform. Untuk informasi harga mengenai instans ini, silakan kunjungi halaman harga kami.