AWS Transform 现已支持对生成式人工智能工作负载进行模型间迁移评测
AWS Transform 现已提供模型间迁移自定义转换,可评测您的生成式人工智能工作负载,并为从第三方提供商迁移到 Amazon Bedrock 制定全面的迁移计划。人工智能驱动的代理会扫描您的代码库,识别所有正在使用的人工智能 SDK 和模型,通过交互式问题收集您的迁移需求,并将模型与 Bedrock 等效模型对应,同时提供透明的成本对比以及生产就绪型代码更改。此托管式自定义转换可助力企业在 AWS 上整合其人工智能工作负载,通过 Amazon CloudWatch 获得基于 IAM 的安全性、VPC 端点隔离、提示缓存、Amazon Bedrock 护栏和统一运维工具。 该转换支持从 OpenAI、Google Gemini、直接使用的 Anthropic SDK,以及通过 LiteLLM 或 Ollama 接入的开源模型进行迁移。它能够处理直接 SDK 集成、框架封装的模式(例如 LangChain 和 LlamaIndex)、代理式架构(包括 CrewAI 和 LangGraph)以及多提供商路由层,从而在仅替换模型层的同时,保留您的应用程序架构。该代理具备智能成本优化能力,包括分层模型路由建议、提示缓存分析,以及模型生命周期感知能力,所有建议均排除距停止支持不足 90 天的模型。对于某些工作负载,该代理会建议将 Amazon Bedrock的兼容 OpenAI 的端点作为零代码更改迁移路径。
AWS Transform 模型间迁移功能已在提供 AWS Transform 的所有 AWS 区域推出,并且不会收取标准 AWS Transform 费用之外的其他费用。要开始使用,请安装 ATX CLI,并对代码库运行 mke-genai-model-migration 自定义转换。要了解更多信息,请参阅 AWS Transform 自定义转换文档和公告博客。