Модели генеративного искусственного интеллекта Meta Llama 3.1 теперь доступны в Amazon SageMaker JumpStart
Наиболее сложные и функциональные на сегодняшний день модели Meta Llama, Llama 3.1, теперь доступны в Amazon SageMaker JumpStart, центре машинного обучения (ML), который предлагает предварительно обученные модели и встроенные алгоритмы, помогающие быстро начать работу с машинным обучением. Вы можете развернуть и использовать модели Llama 3.1 несколькими щелчками мыши в SageMaker Studio или программно с помощью SDK SageMaker для Python.
Модели Llama 3.1 демонстрируют значительные улучшения по сравнению с предыдущими версиями благодаря увеличению объема данных для обучения и масштабированию. Модели поддерживают длину контекста 128 тыс. токенов, что на 120 тыс. токенов больше, чем у Llama 3. Модели Llama 3.1 имеют в 16 раз большую емкость, чем у Llama 3, и демонстрируют улучшенные рассуждения для многоязычных диалогов на восьми языках. Модели позволяют получать больше информации из длинных отрывков текста для принятия более обоснованных решений и использовать более подробные контекстные данные для получения более точных ответов. Согласно данным Meta, Llama 3.1 405B является одной из крупнейших общедоступных базовых моделей и хорошо подходит для генерации синтетических данных и дистилляции моделей. И то и другое может улучшить небольшие модели Llama. Чтобы использовать синтетические данные для точной настройки моделей, вы должны соблюдать условия лицензии Meta. Ознакомьтесь с соглашением EULA для получения дополнительной информации. Все модели Llama 3.1 предоставляют самые современные возможности в области общих знаний, математики, использования инструментов и многоязычного перевода.
Модели Llama 3.1 сегодня доступны в SageMaker JumpStart в регионах AWS Восток США (Огайо, Северная Вирджиния) и Запад США (Орегон). Чтобы начать работу с моделями Llama 3.1 в SageMaker JumpStart, см. документацию и блог.