Amazon SageMaker AI kini mendukung panjang urutan kustom untuk pekerjaan kustomisasi model nirserver
Hari ini, Amazon SageMaker AI mengumumkan kemampuan untuk mengkonfigurasi panjang sekuens yang digunakan selama pekerjaan kustomisasi model nirserver Anda. Kustomisasi model nirserver Amazon SageMaker AI mendukung penyempurnaan untuk banyak model dengan bobot terbuka, termasuk model dari keluarga populer seperti gpt-oss, Gemma, Llama, Nemotron, dan Qwen. Sebelumnya, setiap resep penyempurnaan berjalan pada panjang urutan tetap yang tidak dapat dimodifikasi oleh pelanggan. Pelanggan terkadang perlu memodifikasi parameter ini untuk mencapai hasil yang lebih baik untuk kasus penggunaan mereka. Pelanggan juga meminta panjang urutan yang lebih besar daripada nilai baku statis yang kami sediakan pada beberapa model.
Sekarang, Anda dapat mengatur parameter panjang sekuens sebagai bagian dari hyperparameter pekerjaan kustomisasi, hingga nilai maksimum yang dipublikasikan untuk model dan teknik yang Anda pilih. Anda dapat mengatur hyperparameter dataset_max_len untuk pekerjaan SFT dan DPO atau mengatur hyperparameter max_prompt_length dan max_response_length untuk pekerjaan RFT. Ini memberi Anda kendali lebih besar untuk mencocokkan karakteristik data pelatihan Anda, baik Anda bekerja dengan pasangan tanya jawab singkat atau dokumen multi-halaman. Jumlah token maksimum yang dipublikasikan mencapai 16.000 token untuk banyak model, tergantung pada model dan teknik yang digunakan.
Kustomisasi model nirserver pada SageMaker AI tersedia di AS Timur (Virginia Utara), AS Barat (Oregon), Asia Pasifik (Tokyo), dan Eropa (Irlandia). Untuk memulai, buka halaman Model di Amazon SageMaker Studio untuk menjalankan pekerjaan kustomisasi, gunakan SageMaker Python SDK, atau gunakan Keterampilan agen kami dengan asisten coding pilihan Anda. Untuk mempelajari lebih lanjut, dan melihat daftar model serta panjang urutan yang didukung per teknik, lihat dokumentasi SageMaker AI.