Công bố AWS Neuron SDK 2.27.0
Hôm nay, AWS công bố Neuron SDK 2.27.0, giới thiệu khả năng hỗ trợ cho Trainium3 UltraServer với các thành phần nguồn mở mở rộng. Neuron cũng giới thiệu bộ công cụ Neuron Explorer, NKI nâng cao với Trình biên dịch NKI nguồn mở được xây dựng trên MLIR (beta riêng), Thư viện NKI gồm các hạt nhân được tối ưu hóa, hỗ trợ PyTorch gốc thông qua TorchNeuron (beta riêng) và Neuron DRA để quản lý tài nguyên gốc Kubernetes (beta riêng).
Các hạng mục cập nhật này cho phép các khung tiêu chuẩn hoạt động mà không cần thay đổi trên Trainium, loại bỏ rào cản cho để các nhà nghiên cứu thử nghiệm và đổi mới. Đối với các nhà phát triển yêu cầu mức độ kiểm soát sâu hơn, Neuron Kernel Interface (NKI) Beta 2 nâng cao cung cấp quyền truy cập trực tiếp vào các hạng mục tối ưu hóa cấp phần cứng, cho phép khách hàng điều chỉnh quy mô khối lượng công việc AI với hiệu năng được cải thiện. Nếu quan tâm đến việc truy cập sớm vào các tính năng và hạng mục cải tiến mới của NKI, bạn có thể tham gia chương trình beta riêng của Neuron.
Phiên bản SDK mới có sẵn ở tất cả các Khu vực AWS hỗ trợ phiên bản Inferentia và Trainium, cung cấp hiệu năng và khả năng giám sát nâng cao cho khối lượng công việc máy học.
Để biết thêm chi tiết, hãy xem: