Amazon SageMaker AI artık sunucusuz model özelleştirme işleri için özel dizi uzunluklarını destekliyor
Bugün Amazon SageMaker AI, sunucusuz model özelleştirme işiniz sırasında kullanılan sıra uzunluğunu yapılandırma özelliğini duyurdu. Amazon SageMaker AI sunucusuz model özelleştirmesi, gpt-oss, Gemma, Llama, Nemotron ve Qwen gibi popüler ailelerin modelleri de dahil olmak üzere birçok açık ağırlık modelinde ince ayarlamayı destekler. Önceden, tüm ince ayar tarifleri müşterilerin değiştiremeyeceği sabit bir sıra uzunluğunda çalışıyordu. Müşterilerin bazen kullanım durumlarında daha iyi sonuçlar elde etmek için bu parametreleri değiştirmeleri gerekir. Müşteriler ayrıca bazı modellerde desteklediğimiz statik varsayılanlardan daha uzun dizi uzunlukları istedi.
Artık sıra uzunluğu parametrelerini özelleştirme işinin hiperparametrelerinin bir parçası olarak, seçtiğiniz model ve teknik için yayınlanan maksimum değere kadar herhangi bir yerde ayarlayabilirsiniz. SFT ve DPO işleri için dataset_max_len hiperparametresini veya RFT işleri için max_prompt_length ve max_response_length hiperparametrelerini ayarlayabilirsiniz. Bu, ister kısa soru-cevap çiftleriyle ister çok sayfalı belgelerle çalışıyor olun, eğitim veri özelliklerinizi eşleştirmede size daha fazla kontrol sağlar. Yayınlanan maksimumlar, modele ve tekniğe bağlı olarak birçok model için 16 bin jetona kadardır.
SageMaker AI üzerinde sunucusuz model özelleştirmesi ABD Doğu (Kuzey Virginia), ABD Batı (Oregon), Asya Pasifik (Tokyo) ve Avrupa (İrlanda) bölgelerinde mevcuttur. Başlamak için Amazon SageMaker Stüdyosu'ndaki Modeller sayfasına gidin ve bir özelleştirme işi başlatın, SageMaker Python SDK'sini kullanın veya seçtiğiniz kodlama asistanı ile Temsilci becerilerimizi kullanın. Daha fazla bilgi edinmek ve teknik başına modellerin ve desteklenen dizi uzunluklarının listesini görmek için SageMaker AI belgelerine bakın.