Amazon SageMaker AI artık NVIDIA Nemotron 3.5 Lightning için sunucusuz model özelleştirmesini destekliyor
Amazon SageMaker AI artık gözetimli ince ayar (SFT), Doğrudan Tercih Optimizasyonu (DPO) ve pekiştirme ince ayarı (RFT) ile NVIDIA Nemotron 3.5 Lightning modeli için sunucusuz model özelleştirmesini destekliyor. NVIDIA'nın en yeni açık ağırlık modellerinden olan bu model, 3 milyarı hibrit uzmanlar karışımı mimarisi olmak üzere toplamda 30 milyar parametreye sahiptir. Bu modeli SageMaker AI'da dağıtmanın yanı sıra, artık onu belirli etki alanlarınıza ve iş akışlarınıza uyarlayabilirsiniz.
Model özelleştirme, daha küçük ve doğru boyutlandırılmış bir modelin görevlerinizde sınır model kalitesiyle eşdeğer şekilde çalışmasına olanak tanıyarak maliyetlerinizi ve gecikmeyi azaltabilmesi için sınır modelleri tescilli verilerinizle uyarlamanıza izin verir. SFT ile etiketli verileri; etki alanına özel görevlerde doğruluğu artırmak, çıktıları kuruluşunuzun tonu ile uyumlu hale getirmek için DPO ile tercih verisi olarak veya yeni görevlerde performansı artırmak için RFT ile ödül sinyalleri için kullanabilirsiniz. SageMaker AI, sunucusuz özelleştirme sayesinde tüm altyapı sağlama ve eğitim düzenlemesini yönettiği için küme yönetimi yerine verilerinize ve değerlendirmenize odaklanıp yalnızca kullandığınız miktar için ödeme yapabilirsiniz.
SageMaker AI üzerinde NVIDIA Nemotron 3.5 Lightning için sunucusuz model özelleştirmesi ABD Doğu (Kuzey Virginia), ABD Batı (Oregon), Asya Pasifik (Tokyo) ve Avrupa (İrlanda) bölgelerinde mevcuttur. Başlamak için Amazon SageMaker Stüdyosu'ndaki Modeller sayfasına gidin ve özelleştirme işi başlatın veya programlı erişim için SageMaker Python SDK'sini kullanın. Daha fazla bilgi edinmek için Amazon SageMaker AI model özelleştirme belgelerine bakın.