Los cuadernos de Amazon SageMaker Studio ahora admiten los tipos de instancias G7e
Las instancias G7e de Amazon incluyen hasta 8 GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, con 96 GB de memoria por GPU y procesadores Intel Xeon de 5.a generación. Admiten hasta 192 CPU virtuales (vCPU) y hasta 1600 Gbps de ancho de banda de la red del Elastic Fabric Adapter. Las instancias G7e son compatibles con NVIDIA GPUDirect Peer to Peer (P2P), lo que aumenta el rendimiento de las cargas de trabajo con varias GPU. Las instancias G7e con varias GPU también admiten el acceso remoto directo a la memoria (RDMA) de NVIDIA GPUDirect con eFav4 en los UltraClusters EC2. Esto reduce la latencia para cargas de trabajo de varios nodos a pequeña escala. Los clientes pueden usar las instancias G7e para implementar modelos de lenguaje de gran tamaño (LLM), modelos de IA agéntica, modelos de IA generativa multimodal y modelos de IA física. Las instancias G7e ofrecen el máximo rendimiento para las cargas de trabajo de computación espacial, así como para las cargas de trabajo que requieren capacidades de procesamiento de gráficos y de IA.
Las instancias G7e de Amazon EC2 están disponibles para los cuadernos de SageMaker Studio en las regiones de AWS este de EE. UU. (norte de Virginia y Ohio) y oeste de EE. UU. (Oregón).
Consulte las guías para desarrolladores y obtenga instrucciones sobre la configuración y el uso de las aplicaciones JupyterLab y CodeEditor en SageMaker Studio. Para obtener información sobre estas instancias, consulte nuestra página de precios.