Анонс функции развертывания по запросу для пользовательских моделей Meta Llama в Amazon Bedrock
С сегодняшнего дня клиенты могут использовать опцию развертывания по запросу в Amazon Bedrock для моделей Meta Llama 3.3, которые были настроены или дистиллированы в Bedrock. Опция будет применяться к моделям, настроенным не ранее 15 сентября 2025 г.
Это позволит клиентам Bedrock сократить расходы за счет обработки запросов в режиме реального времени без предварительного выделения вычислительных ресурсов. Клиенты платят только за то, что используют, благодаря чему устраняется потребность в постоянно работающей инфраструктуре.
Amazon Bedrock – полностью управляемый сервис, предлагающий спектр высокопроизводительных базовых моделей (FM) ведущих компаний в сфере искусственного интеллекта через единый API. Amazon Bedrock также предоставляет широкий набор возможностей для создания приложений с генеративным ИИ со встроенными средствами безопасности, конфиденциальности и ответственного использования.
Чтобы начать работу, ознакомьтесь с документацией.