HUMAN Security Mempercepat Pelatihan ML dan Waktu Masuk Pasar Menggunakan Amazon SageMaker

HUMAN Security menggunakan strategi pertahanan modern, yang mencakup disrupsi, efek jaringan, dan visibilitas internet, untuk mengacaukan ekonomi kejahatan siber. Strategi tersebut membantu bisnis di semua sektor dalam meningkatkan keamanan kehadiran digital mereka dengan menawarkan berbagai solusi keamanan siber yang membantu perusahaan melindungi aset digital mereka dari penipuan dan bot online yang meniru manusia. Untuk pengiklan digital, perusahaan membuat MediaGuard, solusi teknologi iklan yang menggunakan ML di Human Defense Platform untuk memprediksi validitas tayangan iklan online dalam hampir waktu nyata di semua saluran dan format digital.

Karena bot online makin canggih, HUMAN Security mempertahankan persyaratan latensi serta akurasi yang ketat untuk MediaGuard, dan tim rekayasawannya terus mengiterasi model ML baru untuk meningkatkan performanya. Namun, ketika HUMAN Security meluncurkan solusi ini, proses untuk melatih model ML sepenuhnya masih dilakukan secara manual dan mereka harus menjalankan sejumlah skrip serta menyalin dan menempel berbagai konfigurasi. Dalam banyak kasus, HUMAN Security membutuhkan berminggu-minggu untuk men-deploy model ML baru. “Kami ingin menghemat waktu manusia,” kata Austin Leirvik, staff data scientist di HUMAN Security. “Kami ingin menyiapkan pipeline data lengkap yang akan melakukan persiapan data, ekstraksi data, pelatihan model, dan evaluasi model off-line, semuanya dengan menekan satu tombol.”

Sejak didirikan pada tahun 2012, HUMAN Security telah mengandalkan AWS untuk solusi cloud, dan pada tahun 2020, HUMAN Security melibatkan tim AWS untuk mematangkan kemampuan ML-nya. “Kami berkolaborasi setiap 2 minggu,” kata Leirvik. “Kami menerima banyak umpan balik tentang bagaimana kami dapat mengotomatiskan pelatihan model, dan kami melihat SageMaker sebagai alat yang dapat digunakan untuk menyelesaikan masalah yang kami hadapi.”

Selain melibatkan tim AWS, HUMAN Security juga berpartisipasi dalam berbagai peluang pelatihan melalui AWS, termasuk AWS Partner Network Immersion Days, yaitu lokakarya pelanggan yang disampaikan oleh Partner AWS. Peluang pelatihan ini membantu HUMAN Security meningkatkan kemampuan stafnya dan mendapatkan pemahaman yang lebih dalam tentang siklus hidup model ML. HUMAN Security juga mengadopsi Cloud Data Snowflake, sebuah solusi untuk penggudangan data, danau data, rekayasa data, ilmu data, pengembangan aplikasi data, dan pembagian data dari Snowflake, yang merupakan Partner AWS. Perusahaan menggunakan solusi ini untuk memproses dan menyimpan tabel datanya dalam skala besar. “Untuk menjalankan pelatihan model umum, kami bekerja dengan sekitar 50 juta titik data,” kata Leirvik. “Karena dapat melakukan evaluasi off-line pada set data yang lebih besar, kami memiliki gambaran yang jauh lebih besar tentang long tail, dan ini sangat bagus.”

Perusahaan juga mulai menggunakan AWS Glue, sebuah layanan integrasi data yang sederhana, dapat diskalakan, dan nirserver. HUMAN Security menggunakan AWS Glue untuk tugas ekstraksi dan untuk menyiapkan datanya untuk kueri. Setelah data disiapkan, HUMAN Security menggunakan SageMaker untuk membangun, melatih, dan men-deploy model ML baru. “Dengan menggunakan Amazon SageMaker, kami secara substansial telah mengurangi jumlah waktu yang dibutuhkan untuk melatih model ML,” kata Leirvik. “Kami memiliki sistem penelusuran dan reproduksibilitas lengkap di semua model kami.” Sebelumnya, HUMAN Security memerlukan waktu beberapa minggu untuk melatih model ML baru. Sekarang, perusahaan dapat membangun, melatih, dan men-deploy model ML baru dalam waktu beberapa jam.

Selain itu, HUMAN Security menjalankan beban kerjanya menggunakan Instans M5 Amazon Elastic Compute Cloud (Amazon EC2), yang menawarkan komputasi, memori, dan sumber daya jaringan seimbang untuk beban kerja tujuan umum. Sejak beralih ke tipe instans Amazon EC2 ini, perusahaan telah meningkatkan penghematan biaya hingga 15 persen dan dapat menskalakan permintaan dengan cepat. Skalabilitas ini membantu HUMAN Security memperkuat model ML-nya untuk memvalidasi kemanusiaan dari 15 triliun interaksi online setiap minggu. “Kami sangat senang dengan skalabilitas dan keandalan Instans M5 Amazon EC2,” kata Leirvik. “Kami dapat meningkatkan jumlah data yang kami kerjakan hingga lima kali lipat.”

Untuk mencapai otomatisasi penuh, HUMAN Security menyiapkan fungsi langkah di semua solusi AWS dengan menentukan serangkaian file konfigurasi menggunakan Amazon States Language dan menambahkan file tersebut ke repositori dengan basis kode ML lainnya. Setiap kali ada perubahan pada basis kodenya, perusahaan secara otomatis men-deploy kembali fungsi langkah tersebut, sehingga mengurangi kompleksitas alur kerjanya. Otomatisasi ini telah membantu perusahaan mempercepat waktu masuk pasar dan meningkatkan ketangkasan bisnisnya. Dengan penghematan waktu tambahan, HUMAN Security telah memfokuskan kembali upayanya untuk merilis fitur prediktif baru bagi MediaGuard. “Dengan menggunakan AWS, kami telah melipatgandakan jumlah deployment dibandingkan dengan proses sebelumnya,” kata Leirvik. “Kami kini dapat bereaksi dengan lebih cepat ketika menemui masalah performa.”

HUMAN Security berencana untuk menerapkan pembelajarannya dari proyek ini ke model ML lain yang dimilikinya dalam produksi. HUMAN Security juga akan terus menggunakan layanan AWS untuk berbagai kasus penggunaan di seluruh perusahaan. “Bekerja sama dengan tim AWS telah menjadi pengalaman yang sangat positif,” kata Leirvik. “Tim AWS membantu kami melihat masalah yang kami hadapi dengan cara baru dan membantu menjaga kecepatan sehingga kami akan berhasil.”