Publicado: Nov 27, 2023
A partir de hoje, a AWS Command Line Interface (AWS CLI) e o SDK do Python usam automaticamente o AWS Common Runtime (CRT) para acelerar a transferência de dados entre as instâncias Trn1, P4d e P5 do Amazon S3 e do Amazon EC2. O AWS CRT implementa as práticas recomendadas de performance do Amazon S3 para paralelização de solicitações, repetição automática, balanceamento de carga de DNS e muito mais, para oferecer altas taxas de transferência de dados entre o Amazon EC2 e o Amazon S3. Como resultado, os trabalhos de treinamento em machine learning agora baixam até 3 vezes mais rápido dados de treinamento do Amazon S3 e carregam até 5 vezes mais rápido os pontos de verificação do modelo para o Amazon S3, o que acelera o tempo total de treinamento.
Essa alteração é incluída automaticamente nas últimas AMIs de deep learning da AWS (DLAMI) ao lançar as instâncias Trn1, P4d e P5 do Amazon EC2, que são ideais para modelos de IA generativa, incluindo grandes modelos de linguagem e difusão. Agora, as aplicações que usam a AWS CLI e o SDK do Python para acessar o Amazon S3 obtêm automaticamente os benefícios de performance do AWS CRT. O AWS CRT otimiza a alta largura de banda da rede disponível nessas instâncias, para que você possa aproveitar ao máximo seus recursos computacionais sem ajustar manualmente a performance do armazenamento. Para saber mais, acesse a documentação do SDK do Python e a documentação da CLI.