Поддержка оценки миграции между моделями в AWS Transform для рабочих нагрузок генеративного ИИ
Сервис AWS Transform теперь поддерживает индивидуальное преобразование для миграции между моделями, которое оценивает рабочие нагрузки генеративного искусственного интеллекта (ИИ) и составляет комплексный план по переходу с решений сторонних поставщиков на Amazon Bedrock. Агент на основе ИИ сканирует вашу кодовую базу, идентифицирует все используемые пакеты средств разработки ПО (SDK) и модели искусственного интеллекта, узнает о ваших требованиях к миграции посредством интерактивных вопросов, а затем сопоставляет ваши модели с аналогами в Bedrock, предоставляя прозрачное сравнение их стоимости и необходимые изменения в коде для готовности к работе. Такое управляемое индивидуальное преобразование помогает организациям консолидировать свои рабочие нагрузки ИИ на базе AWS, чтобы обеспечивать безопасность на основе управления идентификацией и доступом (IAM), изолировать адреса VPC, кэшировать текстовые запросы, использовать Ограничения Amazon Bedrock и унифицированные инструменты управления в Amazon CloudWatch. Это преобразование обеспечивает переход с решений OpenAI, Google Gemini, прямого использования SDK от Anthropic и моделей с открытым исходным кодом на основе LiteLLM или Ollama. Оно поддерживает прямую интеграцию SDK, шаблоны с платформенными оболочками, такие как LangChain и LlamaIndex, агентные архитектуры, включая CrewAI и LangGraph, а также распределение решений от разных поставщиков по уровням, сохраняя архитектуру приложений и изменяя только уровень моделей. Агент обеспечивает интеллектуальную оптимизацию затрат, предоставляя рекомендации по распределению моделей по уровням, анализирует кэширование текстовых запросов и учитывает жизненный цикл моделей, исключая из рекомендаций модели, которые будут выведены из эксплуатации в течение 90 дней. Для некоторых рабочих нагрузок он рекомендует использовать адреса Amazon Bedrock, совместимые с OpenAI, в качестве варианта миграции без изменения кода.
Миграция между моделями доступна во всех регионах AWS, где предлагается AWS Transform, без дополнительной платы, помимо стандартных тарифов на этот сервис. Для начала установите интерфейс командной строки (CLI) ATX и запустите индивидуальное преобразование mke-genai-model-migration для своей кодовой базы. Подробнее см. документацию по индивидуальным преобразованиям AWS Transform и объявление в блоге.