Сервис AWS Neuron SDK теперь доступен с поддержкой Neuron Agentic Development для разработки ядер NKI на Trainium
AWS Neuron представляет возможности Neuron Agentic Development – набор агентов и навыков с открытым исходным кодом, который позволяет помощникам по написанию кода на базе ИИ ускорить разработку на AWS Trainium и AWS Inferentia. Первый выпуск предоставляет возможности агентного кодирования для разработки ядер Нейронного интерфейса Kernel (NKI), охватывая весь рабочий процесс – от создания до профилирования и анализа производительности.
NKI предоставляет разработчикам прямой низкоуровневый программный доступ к Trainium для написания пользовательских вычислительных ядер, обеспечивающих максимальную производительность оборудования. Neuron Agentic Development позволяет использовать возможности NKI непосредственно в агентной среде IDE разработчика (например, Claude Code и Kiro) с помощью естественного языка. Например, разработчик может описать операцию PyTorch и получить готовое ядро NKI, попросить агента исправить ошибку компиляции (в этом случае агент автоматически определит проблему и применит исправление) или запросить анализ производительности и получить отчет с указанием строк кода ядра, вызывающих проблемные места. Эти возможности включают создание ядер, отладку, поиск в документации, а также сбор и анализ профилей.
Neuron Agentic Development – это комплексная платформа для агентских возможностей во всем стеке Neuron, первым выпуском которой стала разработка ядер NKI. Репозиторий доступен на GitHub.
Подробнее: