Z.ai tarafından sunulan GLM 5.3 artık Amazon Bedrock'ta genel olarak kullanılabilir
Amazon Bedrock artık Z.ai tarafından sunulan GLM 5.3'ü destekleyerek size etken kodlama ve uzun vadeli yazılım mühendisliği çalışmaları için güçlü ve yeni bir seçenek sunuyor. Amazon Bedrock'ta GLM 5.3 kullanan müşteriler, AWS güvenlik ve uyumluluk pozisyonuna sahip en yeni açık ağırlık modeline erişebilir.
GLM 5.2 ile aynı temel model üzerine oluşturulmuş olan ve eğitim sonrası ölçeklendirmenin iyileştirmeleriyle yönlendirilen GLM 5.3, Z.ai'nin amiral gemisidir. Bu model, yaklaşık 40, toplam 753 milyar parametreye sahip bir uzmanların karışımı mimaridir. 1 milyon belirteçli bağlam penceresini 128 bine kadar çıktı belirteci ile birleştirir ve gecikme ve belirteç tüketimini görev performansına göre değiştirebilmeniz için akıl yürütme her zaman seçilebilir çaba seviyeleriyle beraber etkin kalır.
GLM 5.3 için Bedrock desteğinin içinde sistem istemleri ve mesajlarında önbellek noktalarıyla açık istem önbelleğe alma bulunur. Bu destek model çağrıları arasında bağlamı yeniden kullanırken gecikmeyi ve girdi maliyetlerini azaltmanıza yardımcı olur.
GLM 5.3, uygun kurumsal müşteriler tarafından kullanılabilir ve ABD ve küresel bölgeler arası çıkarım profilleri aracılığıyla erişilebilir. GLM 5.3'ü kullanmaya başlamak için, modele Amazon Bedrock konsolundan veya desteklenen Amazon Bedrock API'leri aracılığıyla programlı olarak erişebilirsiniz. Desteklenen AWS Bölgeleri, uç noktalar, API'ler, özellikler, çıkarım profilleri ve fiyatlandırma hakkında bilgi edinmek için Amazon Bedrock belgelerine bakın. Daha fazla bilgi için lansman blog gönderisini okuyun.