AWS Neuron SDK 2.27.0 발표
오늘 AWS는 Trainium3 UltraServer 지원을 도입하고 오픈 소스 구성 요소를 확대한 Neuron SDK 2.27.0을 발표했습니다. Neuron은 Neuron Explorer 도구 모음, MLIR(프라이빗 베타) 기반으로 구축된 오픈 소스 NKI 컴파일러를 갖춘 향상된 NKI, 최적화된 커널의 NKI 라이브러리, TorchNeuron을 통한 네이티브 PyTorch 지원(프라이빗 베타), Kubernetes 네이티브 리소스 관리를 위한 Neuron DRA(프라이빗 베타)도 도입했습니다.
이번 업데이트로 Trainium에서 표준 프레임워크를 변경 없이 실행할 수 있게 되어 연구자의 실험과 혁신을 가로막는 장벽이 사라졌습니다. 심층 제어를 필요로 하는 개발자를 위해 향상된 Neuron Kernel Interface(NKI) 베타 2는 하드웨어 수준 최적화에 대한 직접 액세스를 지원하여 고객이 향상된 성능으로 AI 워크로드 규모를 조정하도록 보장합니다. NKI의 새로운 기능과 개선 사항을 미리 경험해 보고 싶다면 Neuron 프라이빗 베타 프로그램에 참여할 수 있습니다.
새로운 SDK 버전은 Inferentia 및 Trainium 인스턴스를 지원하는 모든 AWS 리전에서 사용할 수 있으며, 기계 학습 워크로드를 위한 향상된 성능과 모니터링 기능을 제공합니다.
자세한 내용은 다음을 참조하세요.