AWS Trainium

Maliyetleri düşürürken derin öğrenme ve üretici yapay zekâ eğitimi için yüksek performans elde edin

Neden Trainium?

AWS Trainium yongaları bir yandan maliyetleri düşürürken diğer yandan yüksek performans sunmak üzere AWS tarafından yapay zeka eğitimi ve çıkarım için amaca yönelik olarak tasarlanmış bir yapay zeka yongaları ailesidir.

Birinci nesil AWS Trainium yongası, benzer Amazon EC2 bulut sunucularına kıyasla %50'ye kadar daha düşük eğitim maliyetleri içeren Amazon Elastic Compute Cloud (Amazon EC2) Trn1 bulut sunucularına güç vermektedir. Databricks, Ricoh, NinjaTech AI ve Arcee AI dahil birçok müşteri, Trn1 bulut sunucularının performans ve maliyet avantajlarından yararlanmaktadır.

AWS Trainium2 yongası, birinci nesil Trainium'a kıyasla 4 kata kadar daha yüksek performans sunar. Trainium2 tabanlı Amazon EC2 Trn2 bulut sunucuları, üretken yapay zeka için amaca yönelik olarak oluşturulmuştur ve yüz milyarlar ila trilyon üzeri parametreye sahip modelleri eğitmek ve dağıtmak için kullanılabilecek en güçlü EC2 bulut sunucularıdır. Trn2 bulut sunucuları, güncel nesil GPU tabanlı EC2 P5e ve P5en bulut sunucularına kıyasla %30-40 daha iyi bir fiyat performansı sunar. Trn2 bulut sunucuları, özel yonga-yonga ara bağlantımız olan NeuronLink ile birbirine bağlanmış 16 Trainium2 yongasına sahiptir. Çok çeşitli yeni nesil üretken yapay zeka uygulamaları oluşturmak için büyük dil modelleri (LLM'ler), çok modlu modeller, difüzyon transformatörleri dahil olmak üzere en zorlu modelleri eğitmek ve dağıtmak için Trn2 bulut sunucularını kullanabilirsiniz. Tamamen yeni bir EC2 teklifi olan Trn2 UltraServer'lar (önizlemede kullanılabilir), bağımsız EC2 bulut sunucularının sağlayabileceğinden daha fazla bellek ve bellek bant genişliği gerektiren en büyük modeller için idealdir. UltraServer tasarımı, NeuronLink'i kullanmak suretiyle dört Trn2 bulut sunucusu genelinde 64 Trainium2 yongasını tek bir düğümde birbirine bağlayarak yeni özelliklerin önünü açmaktadır. Çıkarım açısından UltraServer'lar, en iyi gerçek zamanlı deneyimleri oluşturmak üzere sektör lideri yanıt süreleri sağlamaya yardımcı olur. Eğitim açısından UltraServer'lar, bağımsız bulut sunucularına kıyasla model paralelliği için daha hızlı toplu iletişim ile model eğitim hızını ve verimliliğini artırır.

PyTorch ve JAX gibi popüler makine öğrenimi (ML) çerçeveleri için sunulan yerel destek sayesinde Trn2 ve Trn1 bulut sunucularında modelleri eğitmeye ve dağıtmaya başlayabilirsiniz.

Video Player is loading.
Current Time 0:00
Duration 1:24
Loaded: 0.00%
Stream Type LIVE
Remaining Time 1:24
 
1x
    • Chapters
    • descriptions off, selected

      Avantajlar

      Videolar

      Amazon'daki üretken yapay zeka altyapısına perde arkasından bakın
      AWS Trainium ile DL'yi hızlandırın ve daha hızlı inovasyon yapın
      AWS Trainium tarafından desteklenen Amazon EC2 Trn1 bulut sunucularıyla tanışın