Công bố AWS Neuron SDK 2.26.0
Hôm nay, AWS công bố việc cung cấp rộng rãi Neuron SDK 2.26.0, mang lại các cải tiến cho khối lượng công việc học sâu trên các phiên bản dựa trên AWS Inferentia và Trainium. Bản phát hành này giới thiệu tính năng hỗ trợ PyTorch 2.8 và JAX 0.6.2, cùng với khả năng suy luận nâng cao trên các phiên bản Trainium2 (Trn2). Các bản cập nhật này cho phép nhà phát triển tận dụng các khung mới nhất, đồng thời hưởng lợi từ việc triển khai mô hình linh hoạt hơn và tối ưu hóa hiệu năng.
Với Neuron SDK 2.26.0, khách hàng hiện có thể triển khai mô hình tạo hình ảnh Flux.1-dev, cùng với các biến thể Llama 4 Scout và Maverick (beta) trên các phiên bản Trn2. Bản phát hành này giới thiệu hỗ trợ kỹ thuật chạy song song chuyên gia (beta) để phân phối hiệu quả các mô hình kết hợp các chuyên gia (MoE) trên nhiều NeuronCores và bổ sung các tính năng mới thông qua API Neuron Kernel Interface (NKI) mới. Bản Neuron Profiler cập nhật này cung cấp các tính năng cải thiện, bao gồm nhóm cấu hình hệ thống cho khối lượng công việc phân tán.
Phiên bản SDK mới có sẵn ở tất cả các Khu vực AWS hỗ trợ phiên bản Inferentia và Trainium, cung cấp hiệu năng và khả năng giám sát nâng cao cho khối lượng công việc máy học.
Để tìm hiểu thêm và xem danh sách đầy đủ các tính năng và cải tiến mới, hãy xem: