الإعلان عن توسيع المنطقة لمثيلات G7e على استدلال SageMaker AI
يسرنا أن نعلن عن توفر مثيلات Amazon EC2 G7e في آسيا والمحيط الهادئ (سول) وأوروبا (لندن) وآسيا والمحيط الهادئ (طوكيو) على استدلال Amazon SageMaker AI. تتميز مثيلات G7e بما يصل إلى 8 وحدات معالجة رسومات NVIDIA RTX PRO 6000 Blackwell Server Edition مع 96 جيجابايت من الذاكرة لكل وحدة معالجة رسومات، ومعالجات Intel Xeon من الجيل الخامس، وما يصل إلى 1600 جيجابت في الثانية من عرض نطاق الشبكة لـ Elastic Fabric Adapter، مما يوفر أداء استدلالي يصل إلى 2.3 مرة مقارنة بمثيلات G6e من الجيل السابق.
مع هذا التوسع في المنطقة، يمكنك الآن نشر نقاط نهاية الاستدلال على مثيلات G7e الأقرب إلى المستخدمين النهائيين في آسيا وأوروبا، مما يقلل من زمن الاستجابة لأعباء عمل الذكاء الاصطناعي المولّد. توفر مثيلات G7e ما يصل إلى 768 جيجابايت من إجمالي ذاكرة GPU في مثيل واحد، مما يمكّنك من خدمة نماذج اللغات المتوسطة إلى الكبيرة التي تصل إلى 70B من المعلمات بدقة FP8 بدون تكوينات متعددة العقد. هذه المثيلات مناسبة تمامًا لاستدلال LLM وتوليد الصور والفيديو والحوسبة المكانية وأعباء عمل الحوسبة العلمية التي تتطلب سعة ذاكرة GPU عالية وعرض نطاق مرتفع.
تتوفر مثيلات G7e لاستدلال SageMaker AI الآن في آسيا والمحيط الهادئ (سول) وأوروبا (لندن) وآسيا والمحيط الهادئ (طوكيو)، بالإضافة إلى المناطق المدعومة سابقًا. للحصول على معلومات التسعير الخاصة بهذه المثيلات، المرجو زيارة صفحة التسعير الخاصة بنا.