Amazon SageMaker AI mengumumkan API sesi pelatihan untuk kustomisasi model nirserver
Kustomisasi model nirserver Amazon SageMaker AI kini mendukung API sesi pelatihan, memberikan pelanggan kendali penuh atas algoritma pasca-pelatihan mereka tanpa perlu menyediakan atau mengelola infrastruktur GPU. Teknik terkelola, termasuk SFT, DPO, dan metode pembelajaran penguatan lainnya, memungkinkan pelanggan untuk memilih teknik dan model, lalu membiarkan SageMaker AI menjalankan pelatihannya. Dengan API sesi pelatihan, tim dapat menulis loop pelatihan, baik itu mereproduksi SFT atau DPO sesuai keinginan mereka sendiri atau mengimplementasikan fungsi kerugian khusus, sinyal penghargaan RL baru, kurikulum data, atau algoritma langsung dari penelitian terbaru. Operasi seperti forward_backward(), optim_step(), dan sample() menjadi panggilan API terhadap sesi langsung yang memiliki status, sehingga pelanggan menyusun prosedur pelatihan apa pun yang dibutuhkan teknik mereka sementara SageMaker AI menangani alokasi GPU, pemuatan model dan LoRA, eksekusi terdistribusi, pemulihan kesalahan, penyimpanan pos pemeriksaan, dan keamanan.
Pelanggan dapat memanggil operasi ini langsung dari kode Python mereka sendiri untuk menjalankan pembelajaran penguatan, penyempurnaan terawasi, atau tujuan pelatihan khusus terhadap sesi langsung, dengan fitur pos pemeriksaan dan melanjutkan yang terintegrasi. Penagihan dilakukan per token yang diproses, jadi komputasi lokal seperti penghitungan hadiah tidak ditagih sebagai waktu GPU. SageMaker AI juga merilis cookbook sesi pelatihan SageMaker, yaitu serangkaian resep SFT dan RL siap pakai yang dapat digunakan pelanggan sebagai cetak biru untuk siklus pelatihan mereka sendiri.
API sesi pelatihan kini tersedia secara umum di AS Timur (Virginia Utara), AS Barat (Oregon), dan Asia Pasifik (Mumbai). Untuk memulai, instal SageMaker Python SDK dan klon cookbook, atau luncurkan notebook di SageMaker Studio dan hubungkan agen coding. Untuk mempelajari lebih lanjut, kunjungi dokumentasi dan halaman web Amazon SageMaker AI.