Модель Meta Llama 3.1 405B теперь общедоступна в Amazon Bedrock

Проведено: 26 июля 2024 г.

Модели Llama 3.1, самые совершенные на сегодняшний день модели Meta Llama, теперь доступны в Amazon Bedrock. С сегодняшнего дня модель Llama 3.1 405B стала общедоступной в Amazon Bedrock. Amazon Bedrock позволяет с помощью Llama создавать под ключ приложения на основе генеративного искусственного интеллекта. Модели Llama 3.1 представляют собой набор моделей с размерами параметров 8B, 70B и 405B и предлагают новые возможности для приложений с генеративным ИИ.

Все модели Llama 3.1 демонстрируют значительные улучшения по сравнению с предыдущими версиями. Они поддерживают контекст длиной 128 тысяч токенов и способны эффективнее рассуждать в диалогах на восьми языках. Они получают больше информации из длинных отрывков текста для принятия более обоснованных решений и используют более подробные контекстные данные для выдачи более проницательных и точных ответов. По словам представителей Meta, модель Llama 3.1 405B является одной из лучших и крупнейших общедоступных базовых моделей, которая хорошо подходит для генерации синтетических данных и дистилляции знаний. Модели Llama 3.1 также предоставляют самые современные возможности в области общих знаний, математики, использования инструментов и многоязычного перевода.

Модели Llama 3.1 от Meta доступны в Amazon Bedrock в регионе Запад США (Орегон). Чтобы узнать больше, см. статью в блоге AWS News, страницу продукта Llama в Amazon Bedrock, страницу цен и документацию. Чтобы начать работу с Llama 3.1 в Amazon Bedrock, перейдите в консоль Amazon Bedrock.