Menaklukkan inferensi skala besar

Inferensi model AI skala besar adalah tantangan teknis yang unik. Untungnya, Domenic Donato, VP of Technology di AssemblyAI, perusahaan API yang membangun model AI canggih, akan membagikan cara mengatasinya. Domenic akan mendalami solusi inovatif yang digunakan oleh AssemblyAI untuk mengatasi tugas yang kompleks ini dan mengeksplorasi teknik mutakhir guna memastikan proses inferensi yang efisien dan efektif pada model deep learning. Anda akan mempelajari strategi mengenai cara membuat keputusan berdasarkan informasi dalam skala besar, mulai dari mengoptimalkan sumber daya komputasi hingga memanfaatkan paralelisasi dan sistem terdistribusi.