Lewati ke Konten Utama

AWS Deep Learning Containers

Keuntungan

Lakukan deployment lingkungan deep learning dalam hitungan menit menggunakan citra Docker yang sudah dikemas dan diuji sepenuhnya.

Tingkatkan performa secara otomatis dengan pelatihan model yang dioptimalkan untuk kerangka kerja populer, seperti TensorFlow, PyTorch, dan Apache MXNet.

Tambahkan machine learning (ML) dengan cepat sebagai layanan mikro ke aplikasi Anda yang berjalan di Amazon EKS dan Amazon EC2.

Bangun alur kerja ML kustom untuk pelatihan, validasi, dan deployment melalui integrasi dengan Amazon SageMaker, Amazon EKS, dan Amazon ECS.

Kasus penggunaan

Deployment kendaraan otonom (AV)

Kembangkan model ML lanjutan dalam skala besar untuk melakukan deployment teknologi AV dengan aman dan cepat di lingkungan Anda.

Pemrosesan bahasa alami (NLP)

Kurangi waktu yang diperlukan untuk melakukan deployment model ML Anda dan percepat waktu untuk produksi menggunakan kerangka kerja dan pustaka terbaru, termasuk Hugging Face Transformers.

Analisis data layanan kesehatan

Analisis data kondisi mentah yang berbeda dengan analitik, ML, dan kemampuan deep learning lanjutan untuk mengidentifikasi tren dan membuat prediksi.

Deep Learning Containers yang Didukung

Operating systems
Frameworks
Instances
Platforms
Ubuntu Linux

PyTorch

AWS Trainium

Amazon EC2

TensorFlow

GPU NVIDIA

Amazon ECS

AWS Inferentia

Amazon EKS

AWS Graviton

Untuk detail tentang dukungan untuk Deep Learning Containers, lihat rilis.

Kesuksesan pelanggan

Roblox

Roblox adalah platform gaming dan kreasi yang imersif yang menawarkan jutaan cara bagi orang-orang untuk berkumpul, dengan mengundang komunitasnya untuk menjelajahi, menciptakan, dan berbagi pengalaman unik tanpa batas. Komunitas global Roblox yang terdiri dari jutaan developer menciptakan dan memublikasikan pengalaman multi-pemain imersif mereka sendiri menggunakan Roblox Studio, sebuah mesin kreasi serbaguna dari platform ini yang memungkinkan siapa saja membangun apa pun yang dapat mereka bayangkan.

Sebagai bagian dari platform AI di Roblox, kami melatih dan menjalankan lebih dari 250 model di seluruh bisnis kami. Hampir setiap interaksi di Roblox memiliki beberapa bentuk AI yang mendukungnya, termasuk keamanan, pembuatan konten 3D AI generatif, rekomendasi pengalaman, penerjemahan waktu nyata, dan kasus penggunaan lainnya. Kami menggunakan AWS Deep Learning Containers untuk grup simpul GPU EKS kami, dan karena itu, kami tidak perlu khawatir tentang infrastruktur, driver Nvidia, dan penginstalan CUDA - semuanya berfungsi secara langsung. Kami dapat fokus pada hal yang benar-benar penting bagi kami, yaitu meningkatkan penjadwalan GPU dan penggunaan GPU untuk memberikan keuntungan bagi pengguna kami dan menurunkan biaya untuk melayani beban kerja AI tersebut.

Denis Goupil, Principal Machine Learning Engineer - Roblox

Missing alt text value