Модель Beam от Reflection теперь доступна в Amazon SageMaker JumpStart и в AWS Trainium
Beam, первая модель с открытыми весами, предлагаемая американской компанией Reflection, теперь доступна в Amazon SageMaker JumpStart, центре моделей в Amazon SageMaker AI. По данным Reflection, модель Beam находится среди лучших моделей с открытыми весами в своем классе и показывает высокие результаты в тестах на логические рассуждения, программирование и работу агентных систем. Beam предназначен для команд, развивающих модели с открытыми весами, а не просто обращающихся к ним. Клиенты, которые хотят адаптировать продвинутую модель к своей предметной области, могут настроить ее, изучить и изменить веса, а также глубоко внедрить ее в свои агенты и рабочие процессы, сохранив при этом полный контроль над своими данными и инфраструктурой. Beam работает наряду с другими моделями, которые клиенты уже используют в SageMaker AI, и масштабируется в соответствии с производственной нагрузкой, используя те же средства контроля, журналы аудита и мониторинг, встроенные в каждое развертывание SageMaker AI. Кроме того, Beam была портирована и оптимизирована для AWS Trainium3, что дало клиентам высокопроизводительный и экономичный вариант развертывания и масштабирования модели с первого дня. «Reflection предоставляет передовые технологии ИИ, которыми разработчики могут управлять, а не просто арендовать через API. Размещение Beam в SageMaker AI дает миллионам разработчиков доступ к инфраструктуре, которой они уже доверяют: модель работает в их аккаунтах AWS, использует их данные и полностью им подконтрольна», – говорит Миша Ласкин (Misha Laskin), соучредитель и генеральный директор Reflection.
Команды, развивающие модель Beam, могут выйти далеко за рамки обычного обращения к API: вы также можете настроить ее на основе собственного кода и данных, специализировать под особенности своей предметной области и интегрировать в многоэтапные агентные рабочие процессы и инструменты. На практике это означает решение реальных проблем с программным обеспечением, генерирование и анализ кода, автоматизацию операций и выполнение сложных математических и научных логических рассуждений на основе модели, которую они могут формировать самостоятельно, а не просто использовать. Поскольку Beam выпущена под лицензией Apache 2.0, клиенты могут изучать и настраивать модель, а также запускать ее в собственных аккаунтах AWS. Данные при этом остаются конфиденциальными и под контролем клиентов, и их защищают те же средства безопасности и соответствия требованиям AWS, которые уже используются. «Доступность передовых моделей ИИ, таких как Beam, в Amazon SageMaker позволяет нам запускать такие модели с открытыми весами в полностью защищенной собственной среде, имея полный доступ к весам, данным и конвейеру. В эпоху мультимодельного ИИ сочетание открытости и управляемой инфраструктуры является важным дополнением к экосистеме ИИ. Возможность развертывать и адаптировать передовые модели ИИ под конкретные задачи с учетом требований клиентов к безопасности и контролю дает большему числу организаций больше гибкости при внедрении ИИ в масштабах предприятия», – сообщает Гаррет Бернтсен (Garrett Berntsen), директор по ИИ в Accenture Federal Services.
На данный момент Beam доступна в Amazon SageMaker JumpStart в регионах Восток США (Огайо, Северная Вирджиния). Модель доступна в форматах BF16, FP8 и NVFP4 и может быть развернута через полностью управляемый адрес SageMaker JumpStart. Чтобы начать работу, найдите Beam в SageMaker JumpStart в Студии Amazon SageMaker или разверните модель непосредственно в SageMaker AI. Подробнее см. в публикации «Представляем Beam от Reflection» в блоге AWS по машинному обучению, в документации по SageMaker AI и в документации по SageMaker JumpStart с рекомендациями по развертыванию.