Amazon EKS artık küme başına 100.000'e kadar çalışan düğümünü destekliyor
Amazon EKS bugün, bir kümede 100.000 adede kadar çalışan düğümünü desteklediğini duyurdu. Böylece siz de ultra ölçekli yapay zeka/makine öğrenimi eğitim ve çıkarım iş yüklerini tek bir kümede çalıştırabilirsiniz. Amazon EC2'nin yeni nesil hızlandırılmış bilgi işlem bulut sunucusu türleri sayesinde, 100.000 çalışan düğüm tek bir kümede, Trn2 bulut sunucularına sahip 1,6 milyona kadar Trainium çipini ve P5 ve P6 bulut sunucularına sahip 800.000 NVIDIA GPU'yu destekler. Bu da tüm bilgi işlem hızlandırıcılarının tek bir kümede kullanılabilir durumda olmasını gerektiren ultra ölçekli yapay zeka/makine öğrenimi iş yüklerini çalıştırabilmenizi sağlar. Çünkü bu iş yükleri birden çok kümeye kolayca dağıtılamamaktadır.
Trilyonlarca parametreye sahip en gelişmiş yapay zeka modelleri, bağlamı anlama, akıl yürütme ve karmaşık görevleri çözmede önemli ölçüde geliştirilmiş özellikler sunar. Giderek daha da güçlenen bu modelleri oluşturup çalıştırmak için kuruluşlar, tek bir kümede çok sayıda bilgi işlem hızlandırıcısına erişmeye ihtiyaç duyar. Böyle geniş bir bilgi işlem hızlandırıcısı havuzuna birleşik erişime sahip olmak şunlar gibi çok önemli avantajları sunar: Kuruluşlar her zamankinden daha güçlü yapay zeka modelleri oluşturup dağıtabilir, bilgi işlem hızlandırıcılarının eğitim ve çıkarım iş yükleri arasında verimli şekilde paylaştırılması maliyetleri düşürür ve kümeler arasında çalıştırılmak üzere tasarlanmamış mevcut yapay zeka/makine öğrenimi araçları ile çerçeveleri sorunsuz şekilde kullanılabilir.
Daha fazla bilgi için lansman bloguna bakın.