SageMaker AI çıkarımında G7e bulut sunucularının bölge genişlemesi duyuruluyor
Amazon SageMaker AI çıkarımında Amazon EC2 G7e bulut sunucularının Asya Pasifik (Seul), Avrupa (Londra) ve Asya Pasifik'te (Tokyo) kullanılabilirliğini duyurmaktan mutluluk duyuyoruz. G7e bulut sunucuları, GPU başına 96 GB belleğe sahip 8 adede kadar NVIDIA RTX PRO 6000 Blackwell Server Edition GPU'su, 5. Nesil Intel Xeon işlemciler ve 1.600 Gbps'ye kadar Esnek Yapı Bağdaştırıcısı ağ bant genişliği ile önceki nesil G6e bulut sunucularına kıyasla 2,3 kata kadar daha fazla çıkarım performansı sunar.
Bu bölge genişletmesiyle artık Asya ve Avrupa'daki son kullanıcılarınıza daha yakın G7e bulut sunucularında çıkarım uç noktalarını dağıtabilir ve üretken yapay zeka iş yüklerinde gecikmeyi azaltabilirsiniz. G7e bulut sunucuları, tek bir bulut sunucusunda 768 GB'a kadar toplam GPU belleği sağlayarak, çok düğümlü yapılandırmalar olmadan 70B parametreye kadar orta ila büyük dil modellerini FP8 hassasiyette sunmanıza olanak tanır. Bu bulut sunucuları, yüksek GPU bellek kapasitesi ve bant genişliği gerektiren LLM çıkarımı, görüntü ve video oluşturma, uzamsal bilgi işlem ve bilimsel bilgi işlem iş yükleri için çok uygundur.
SageMaker AI çıkarımı için G7e bulut sunucuları, daha önce desteklenen bölgelere ek olarak artık Asya Pasifik (Seul), Avrupa (Londra) ve Asya Pasifik (Tokyo) bölgelerinde kullanılabilir. Bu bulut sunucularıyla ilgili fiyatlandırma bilgileri için lütfen fiyatlandırma sayfamızı ziyaret edin.