AWS Deep Learning Containers
AWS Deep Learning Containers (AWS DL Containers) adalah gambar Docker pra-instal dengan kerangka kerja deep learning untuk memudahkan men-deploy lingkungan machine learning (ML) kustom secara cepat dengan membiarkan Anda melewatkan proses rumit dalam membangun dan mengoptimalkan lingkungan dari awal. AWS DL Containers mendukung TensorFlow, PyTorch, Apache MXNet. Anda dapat men-deploy AWS DL Containers di Amazon SageMaker, Amazon Elastic Kubernetes Service (Amazon EKS), Kubernetes yang dikelola sendiri di Amazon EC2, Amazon Elastic Container Service (Amazon ECS). Kontainer ini tersedia melalui Amazon Elastic Container Registry (Amazon ECR) dan AWS Marketplace tanpa biaya--Anda hanya perlu membayar untuk sumber daya yang Anda gunakan. Memulai tutorial ini.
Kontainer Docker adalah cara yang populer untuk men-deploy lingkungan ML kustom yang bekerja secara konsisten di beberapa lingkungan. Namun, membangun dan menguji citra kontainer untuk deep learning sulit untuk dilakukan, rawan kesalahan, dan dapat memakan waktu berhari-hari karena dependensi perangkat lunak serta masalah kompatibilitas versi. Citra ini juga perlu dioptimalkan untuk mendistribusikan dan menskalakan beban kerja ML secara efisien di seluruh klaster instans, yang memerlukan keahlian khusus. Proses ini harus diulang ketika pembaruan kerangka kerja dirilis. Semua ini merupakan pekerjaan berat yang tidak dapat dibedakan dan memakan waktu developer yang berharga serta memperlambat kecepatan inovasi Anda.
AWS DL Containers menyediakan gambar Docker pra-instal yang telah diuji sebelumnya dengan versi terbaru dari kerangka kerja deep learning populer dan pustaka yang diperlukan. AWS DL Containers dioptimalkan untuk mendistribusikan beban kerja ML secara efisien pada klaster instans di AWS, sehingga Anda dapat dengan segera mendapatkan performa dan skalabilitas yang tinggi.
Manfaat
Segera mulai membangun
Gunakan gambar Docker yang telah dikemas sebelumnya untuk men-deploy lingkungan deep learning dalam hitungan menit. Gambar-gambar tersebut berisi pustaka kerangka kerja deep learning (saat ini TensorFlow, PyTorch, dan Apache MXNet) serta alat-alat yang diperlukan dan telah sepenuhnya diuji. Anda dapat dengan mudah menambahkan pustaka dan alat Anda sendiri pada gambar-gambar tersebut untuk tingkat kontrol yang lebih tinggi dari pemantauan, kepatuhan, dan pemrosesan data. Untuk informasi selengkapnya, lihat AWS Deep Learning Container Images.
Dapatkan performa terbaik secara otomatis
AWS DL Containers mencakup pengoptimalan dan peningkatan AWS ke versi terbaru dari kerangka kerja populer, seperti TensorFlow, PyTorch, dan Apache MXNet, serta pustaka guna memberikan performa tertinggi untuk pelatihan dan inferensi di cloud. Misalnya, pengoptimalan AWS TensorFlow memungkinkan model untuk dilatih hingga dua kali lebih cepat melalui penskalaan GPU yang ditingkatkan secara signifikan.
Menambahkan machine learning dengan cepat ke aplikasi Kubernetes
Kontainer AWS DL dibuat untuk bekerja dengan Kubernetes di Amazon EC2. Jika Anda memiliki aplikasi yang di-deploy di Kubernetes dengan Amazon EC2, Anda dapat dengan cepat menambahkan machine learning sebagai layanan mikro ke aplikasi tersebut menggunakan AWS DL Containers.
Mengelola alur kerja machine learning dengan mudah
AWS DL Containers sangat terintegrasi dengan Amazon SageMaker, Amazon EKS, dan Amazon ECS, sehingga memberi Anda pilihan dan fleksibilitas untuk membangun alur kerja machine learning khusus untuk pelatihan, validasi, dan deployment. Melalui integrasi ini, Amazon EKS dan Amazon ECS dapat menangani semua orkestrasi kontainer yang diperlukan untuk men-deploy dan menskalakan AWS DL Containers pada klaster mesin virtual.
Dukungan untuk kerangka kerja populer
AWS DL Containers mendukung TensorFlow, PyTorch, dan Apache MXNet.
Pelanggan
“Deep Learning Containers meningkatkan kecepatan kami hingga 20%. Sebelumnya, waktu pemasaran kami diperlambat oleh pekerjaan yang diperlukan untuk men-deploy model yang dikembangkan oleh data scientists ke produksi. Data scientists kami biasanya bekerja dengan AMI Deep Learning AWS dan tim deployment kami menggunakan kontainer Docker saat produksi. Memastikan keseimbangan antara lingkungan penelitian dan produksi sebelumnya banyak memakan waktu dan rawan kesalahan. Sekarang dengan AWS Deep Learning Containers, kami dapat menggunakan lingkungan TensorFlow yang dioptimalkan dan stabil yang sama di seluruh alur kerja kami, mulai dari penelitian dan pelatihan hingga produksi.”
“Di Accenture, data scientists kami berinovasi atas nama klien kami dengan membangun aplikasi deep learning dalam penglihatan komputer dan pemrosesan bahasa alami di berbagai domain seperti telekomunikasi dan industri sumber daya. Tim kami bergerak cepat dan kami menggunakan kontainer Docker untuk melatih dan men-deploy model dengan cepat. Kecepatan kami diperlambat karena harus berulang kali membuat dan memelihara citra kontainer dengan kerangka kerja dan pustaka deep learning, sehingga menghabiskan hari-hari berharga kami saat kami menghadapi masalah kompatibilitas atau ketergantungan. Sekarang, dengan Deep Learning Containers, kami memiliki akses ke citra kontainer yang bekerja dengan sangat baik dan memberikan performa yang dioptimalkan di AWS.”
“Di Patchd, kami menggunakan deep learning untuk mendeteksi sepsis awitan dini. Kami melihat kontainer Docker sebagai cara untuk meningkatkan 10x alur deep learning kami, sehingga memberi kami cara yang cepat dan fleksibel untuk menguji ratusan model dengan mudah. Namun, kami tidak ingin menghabiskan waktu yang berharga untuk ilmu data dan teknik untuk menyiapkan dan mengoptimalkan lingkungan Docker untuk deep learning. Dengan Deep Learning Containers, kami dapat menyiapkan lingkungan TensorFlow yang dioptimalkan dalam hitungan menit, tanpa biaya.”
