AWS Neuron 2.33, 네이티브 PyTorch 지원, Neuron Observer 및 기타 새로운 기능 추가
AWS Trainium용 네이티브 PyTorch 백엔드인 TorchNeuron을 도입한 AWS Neuron 2.33이 공개 베타 버전으로 출시되었습니다. Amazon EC2 Trn2 및 Trn3 인스턴스에서 표준 PyTorch API로 작성된 모델을 즉시 실행 모드 또는 torch.compile로 실행할 수 있습니다. 이번 릴리스에서는 1초 이내에 Trainium 상태 문제를 감지하고 영향 받는 노드 또는 디바이스를 찾아내는 Neuron Observer도 공개 베타 버전으로 도입합니다.
vLLM Neuron 플러그인은 vLLM 0.29.0으로 업그레이드되며, Wan2.2 비디오 생성을 위한 vLLM Omni Neuron 플러그인은 이제 Neuron 릴리스의 일부입니다. 둘 다 TorchNeuron을 통한 네이티브 PyTorch 컴파일을 지원합니다. PyTorch 훈련을 위한 새로운 Neuron Deep Learning AMI 및 Deep Learning Container에는 TorchNeuron, PyTorch 2.14, TorchTitan이 포함됩니다. Neuron Explorer는 torch.profiler로 캡처한 프로파일을 엽니다. PyTorch 메모리 스냅샷을 통해, 이제 Eager 모드에서 메모리 부족 오류를 디버깅하기 위해 메모리 할당이 이루어진 Python 소스 라인을 알려줍니다.
Neuron Kernel Interface(NKI)로 작성된 커널은 이제 생성기와 클래스 상속을 포함하여 메타프로그래밍을 위해 Python 언어를 모두 활용할 수 있습니다. NKI Library에 DeepSeek-V3.2, Qwen3.5, Kimi Delta Attention용 커널을 포함해 25개의 새로운 실험용 커널이 추가되었습니다.
시작하려면 다음 리소스를 참조하세요.