AWS Transform ahora admite la evaluación de la migración de un modelo a otro para cargas de trabajo de IA generativa
AWS Transform ahora ofrece una transformación personalizada de migración de modelo a modelo que evalúa sus cargas de trabajo de IA generativa y produce un plan de migración integral para pasar de proveedores externos a Amazon Bedrock. El agente basado en IA escanea su base de código, identifica cada SDK y modelo de IA en uso, recopila sus requisitos de migración mediante preguntas interactivas y asigna los modelos a los equivalentes de Bedrock con comparaciones de costos transparentes y cambios de código listos para la producción. Esta transformación personalizada gestionada ayuda a las organizaciones a consolidar sus cargas de trabajo de IA en AWS para obtener seguridad basada en IAM, aislamiento de los puntos de conexión de VPC, almacenamiento en caché de peticiones, barreras de protección de Amazon Bedrock y herramientas operativas unificadas a través de Amazon CloudWatch.
La transformación admite migraciones desde OpenAI, Google Gemini, el uso directo del SDK de Anthropic y modelos de código abierto a través de LiteLLM u Ollama. Administra las integraciones directas de SDK, los patrones empaquetados en marcos, como LangChain y LlamaIndex, las arquitecturas de agencia, incluidas CrewAI y LangGraph, y las capas de enrutamiento de varios proveedores, lo que preserva la arquitectura de la aplicación y solo intercambia la capa del modelo. El agente incluye una optimización inteligente de costos con recomendaciones de enrutamiento de modelos por niveles, un almacenamiento en caché de peticiones y un conocimiento del ciclo de vida del modelo, que excluye de todas las recomendaciones a los modelos que se encuentren dentro de los 90 días posteriores al final de su vida útil. Para algunas cargas de trabajo, recomienda los puntos de conexión compatibles con OpenAI de Amazon Bedrock como una ruta de migración sin cambios de código.
La migración de un modelo a otro de AWS Transform está disponible en todas las regiones de AWS en las que se ofrece AWS Transform, sin costo adicional más allá del precio estándar del servicio. Para empezar, instale la CLI de ATX y ejecute la transformación personalizada mke-genai-model-migration en su base de código. Para obtener más información, consulte la documentación de transformaciones de AWS Transform personalizado y el blog de anuncios.