亚马逊AWS官方博客

为迁移到 Amazon Aurora 设计可回退路径

摘要:数据库迁移方案通常把大量精力放在割接上。本项目更棘手的问题出现在割接之后:某社交娱乐客户将核心 MySQL 数据库从原云平台迁到 AWS,但部分系统仍留在原平台并继续写入相关表。一旦需要回退,团队既要保留 AWS 运行期间产生的新数据,也要避免覆盖原数据库中的有效写入。本文介绍项目评估过的回退方案、最终选择“持续采集、按需回放”的原因,以及表分类、冲突处理、幂等和对账等关键设计。


一、客户背景与项目目标

核心数据库从原云平台托管的 MySQL 8.0 迁至 Amazon Aurora MySQL,由 AWS Database Migration Service(AWS DMS)完成全量迁移和变更数据捕获(CDC)。其他业务仍留在原云平台。现有数据形态决定了回退方案的边界:表数量达到数千张,既有联合主键,也有无主键日志表;写入以 INSERT 为主,但更新和删除同样存在;部分表依赖自增主键;回放期间,原 My SQL 数据库仍会接收其他业务写入。

客户要求回退路径具备小时级恢复时间目标(RTO),明确可接受的数据边界,支持失败后重跑,并在重新切流前生成可审核的对账报告和操作手册(Runbook)。

1.1 项目范围

这套方案处理割接失败、应用缺陷和可控的数据问题。前提是 Aurora binlog、MSK 缓冲数据和回放控制面仍然可访问。由于它们位于同一 AWS 区域,当前设计不覆盖区域级故障。

若要覆盖区域级故障,必须把经过校验的 CDC 副本复制到另一个区域或云,并单独演练恢复路径。

正向割接前,两端还必须在同一停写点确认共同基线。开始分叉写入后再生成的快照不能替代它。回退窗口内冻结 DDL 和主键修改;不能冻结的表不进入通用通道。

二、架构总览

图 1 是项目最终采用的逻辑架构。AWS DMS 负责从原 MySQL 数据库到 Amazon Aurora MySQL 的全量迁移和 CDC。割接后,Aurora 设置 binlog_format=ROW、binlog_row_image=FULL,Debezium 通过 Amazon MSK Connect 持续读取 binlog,并把事件写入启用分层存储的 Amazon Managed Streaming for Apache Kafka(Amazon MSK)。确认需要回退后,Amazon Managed Service for Apache Flink 按作业启动时确定的有界范围,将数据写回原 MySQL 数据库。控制库记录批次、异常、删除审计和执行点位,供重跑和对账使用。

[图 1:AWS 到原云平台的回退数据链路]

AWS 到原云平台的回退数据链路:步骤 1,Debezium 读取 Aurora binlog;步骤 2,Amazon MSK 缓冲变更事件;步骤 3,Flink 启动有界回放;步骤 4,经 VPN 写回业务表并记录控制数据。正向迁移由 AWS DMS 完成,方向与图中相反

三、方案比较与最终选择

3.1 两种常驻反向通道

项目首先评估了常驻反向 CDC。按当时的数据量估算,事故后再做全量回填需要数小时到一两天;如果提前同步增量,回退时只需追平最后一段延迟,RTO 可以缩短到分钟级。方案 A 直接写生产表,回退速度最快,但常驻链路会持续修改生产数据。方案 B 将数据写入影子表,回退时再合并。

维度 方案 A(直接写回) 方案 B(影子表,回退时合并)
生产表是否被写入 平时持续被写入,有误覆盖风险 平时不写入生产表
冲突发生时间 常态实时冲突 推迟到回退合并点,风险集中
运维复杂度 一条通道,结构相对简单 需要维护影子表、合并程序和冲突校验;表数量和并发写入越多,合并复杂度越高

影子表避免了日常写入生产表,但回退时需要处理大量表的合并、顺序和冲突,实施复杂度明显增加。两个方案还要长期承担计算、存储和跨云流量费用。

3.2 最终选择:持续缓冲、按需回放

客户确认小时级 RTO 可以接受后,团队不再保留常驻反向写入链路,方案调整为持续缓冲、按需回放。平时由 Debezium 和 Amazon MSK 保存保护期内的事件,并通过分层存储控制长期保留成本;回退时再启动 Flink,按作业启动时确定的有界范围回放。保护期由成本、数据政策和最晚可回退时间共同决定。

Debezium 默认产生 topic.prefix.database.table 形式的表级 topic。项目通过 ByLogicalTableRouter 路由转换把它改写为 topic.prefix.database,因此最终是一库一个 topic,同一数据库中的有主键表和无主键表都进入该 topic。Worker 使用 JSON Converter,并设置 key.converter.schemas.enable=false 和 value.converter.schemas.enable=false;回放端再根据事件中的 database、table 和目标表元数据恢复字段类型。这个做法是本项目在无 schema JSON 条件下验证过的实现,不适用于依赖 Schema Registry 兼容检查的场景。

Flink 通过 topics 参数订阅库级 topic,再根据 Kafka key 决定处理分支。路由配置开启 key.enforce.uniqueness=true,避免不同表使用相同主键值时产生相同 Kafka key;schema history topic 保持单分区。项目同时把 Aurora binlog 保留期设置为 144 小时,用来覆盖连接器短时中断;连接器延迟告警必须早于这个窗口触发,预计恢复时间超过 6 天时应在割接前提高保留期。

3.3 同时评估过的轻量方案

团队也评估过使用 AWS DMS 将 CDC 归档到 Amazon S3,并在回退时启动容器批处理。这个方案减少了常驻平台组件,但奇偶 ID、幂等、异常隔离和对账仍需自行实现,批处理还要额外处理事件顺序和失败恢复,因此没有采纳。

评估中明确了一条边界:如果事故时 Aurora 已无法访问而归档有延迟,尾部 binlog 无法恢复。实际 RPO 是最后一个已校验、已复制到可用故障域的事务 checkpoint,不是数据库停止写入的时间。

四、关键落地设计

选定架构后,项目根据客户的真实表结构和业务规则限定通用回放范围。余额、库存和状态机等无法使用统一冲突规则的表,转入专项恢复流程。

4.1 先减少冲突,再定义冲突

对于占比最高的新增数据,两端分别使用奇数和偶数自增主键,从源头减少 INSERT 冲突。相关设置如下:

ini
# Amazon Aurora MySQL(DB 集群参数组):只产生奇数 id
auto_increment_increment = 2
auto_increment_offset    = 1
# 原 MySQL 数据库(数据库参数):只产生偶数 id
auto_increment_increment = 2
auto_increment_offset    = 2

对于共同基线上的更新和删除,客户确认通用表以 AWS 运行期间的数据为准。余额、库存、订单状态机等不能整行覆盖的表退出通用流程,由对应业务团队按专项规则恢复。

4.2 同一数据库 topic 内按表元数据分流

有主键和无主键事件并不是通过 topic 隔离。作业启动时从目标数据库的 information_schema 读取表、列、主键顺序、数据类型、生成列和存储引擎,再结合 Debezium 事件的 key 选择处理逻辑:

代码模式 识别方式 处理逻辑
KEYED 目标表存在主键,Kafka key 包含完整主键列 create、read、update 走 upsert;delete 按完整主键物理删除并写审计记录
NO_PK_INSERT_ONLY 目标表没有主键 只接受 create 和 read;update、delete 无法定位行,写入异常表
阻断或隔离 目标表不存在、主键不完整、列不匹配或类型不支持 系统性问题停止批次,数据问题进入异常表

反序列化时,程序会过滤 SMT 注入的 __dbz__* 字段,只保留真实主键列。有主键事件按 database + table + 完整主键 执行 Flink keyBy,让同一行的事件进入同一个 Sink 子任务;无主键事件则使用 topic + partition + offset 作为分流键。代码不提供 EXCLUDED 模式,需要排除的表应在 Debezium 采集范围或上线清单中提前剔除。

这条通用链路保证同一业务行进入同一个处理分支,但不保证一笔跨表事务在目标库中原子提交。依赖跨表顺序、外键或状态机一致性的表,需要专项处理或从通用回放范围中排除。

4.3 回放过程可以中断和重来

作业默认从 consumer group 已提交的 offset 开始,没有提交点时回退到 earliest;也可以通过 replay.start.timestamp 指定起始时间。结束位置由 replay.end.timestamp 指定,未配置时取作业启动时的 latest。Flink 将时间转换成各 partition 的 offset,并以 bounded source 运行,因此新消息不会无限延长当前批次。

配套脚本可在启动前采集每个 partition 的 earliest、latest、committed 和有效起点,保存为 JSON/CSV,并记录 JAR 校验值和 Managed Flink 应用版本。运行时控制表按子任务记录起止时间、已接收数、成功数、异常数、各类 DML 数量、重启次数以及观测到的 Kafka/binlog 位置。当前验收统计以 received_count、success_count 和 error_count 为主。

无主键表的幂等通过 replay_applied_event 实现:先登记 topic + partition + offset,再插入业务行,两步在同一 MySQL 事务中提交。有主键表使用完整 after image 执行 upsert:先 UPDATE,匹配不到再 INSERT;生成列不会写入。delete 与审计记录也在同一事务中提交。

唯一键冲突等数据问题进入异常表;鉴权失败、表结构不一致等系统性问题直接停止批次。切流前,由回放执行人之外的人员检查异常、点位和对账报告。验收记录需要说明已处理的数据范围、异常数量和未解决差异。

4.4 运行边界

采集和回放链路全程使用 TLS。MSK Connect worker 使用 IAM 身份时,通过 IAM policy 控制 Kafka API;使用 SASL/SCRAM 的客户端通过 Kafka ACL 授权,凭证保存在 AWS Secrets Manager,并由客户管理的 AWS Key Management Service(AWS KMS)密钥加密。跨云网络使用 AWS Site-to-Site VPN 的冗余隧道,并在演练中验证路由切换。

当前缓冲和回放控制面位于同一 AWS 区域。这条路径用于处理割接和应用问题,不覆盖区域级故障,也不能替代跨区域灾难恢复。

当前实现边界:无主键表使用 Kafka 坐标去重,可以覆盖 Flink 重读同一消息,但不能识别连接器将同一源变更重新发布到新 offset;删除审计保存的是 Debezium 源事件,而不是目标库删除前的实际行。这两项如需增强,应分别引入 binlog/GTID 事件身份,以及 DELETE 前的目标行查询和锁定。

五、项目验证与结果

验证期间,原 MySQL 数据库继续接收其他业务写入,同时执行反向回放。测试重点是观察同行写入、主键和业务唯一键冲突,而不仅是检查网络与组件连通性。

客户目标 验证方式 结果
迁移后保留回退能力 跑通 AWS DMS 正向迁移和反向数据回放 形成从迁移、采集到回放的完整路径
回放期间允许目标端继续写入 并发写入并检查主键、业务键和同行冲突 纳入测试的表未出现重复主键和重复业务键
覆盖不同类型的业务表 在 Apache Flink 1.19.1 环境验证单列主键、联合主键和无主键追加表 有主键表完成新增、更新和删除测试;无主键表完成新增、读取及异常隔离测试
评估小时级回退目标 多个并行子任务处理十万量级事件,并记录 Kafka 与 binlog 运行位置 当前测试规模下耗时为分钟级;生产 RTO 仍需按真实负载验收

测试使用 3 个库级 topic,每个 topic 6 个 partition,Managed Flink 1.19.1 并行度为 6、ParallelismPerKPU 为 1。当前 JAR 已完成 Managed Flink 环境冒烟测试,并验证了有界回放、失败续跑和审计记录等关键流程。正式 RTO 仍以生产数据量、事件大小、DML 比例、目标数据库规格和最长回退窗口下的真实负载测试为准。

六、对同类项目的启示

6.1 先确定业务目标,再决定技术形态

分钟级和小时级 RTO 对应不同架构。客户确认小时级目标后,项目才取消长期反向热备,因此 RTO、RPO 和故障范围需要尽早确定。

6.2 根据真实表结构划分范围

表结构和业务关系决定回放范围。项目先给表分类,再选择处理平台;通用链路只处理规则清楚的表,特殊表使用专项流程。

6.3 把回退当成一项长期运营能力

回退系统很少启动,权限、点位和脚本问题容易被忽略。Runbook、演练、审计和切流审批需要与数据链路同时建设。

6.4 用验证结果选择方案

项目以风险隔离、失败恢复和对账结果比较实时直写、影子表、MSK 缓冲和 S3 批处理。这套方法也适用于其他跨云数据库迁移。

七、参考资料

  1. What is AWS Database Migration Service?
  2. Debezium topic routing transformation
  3. Debezium connector for MySQL
  4. Tiered storage for Amazon MSK
  5. IAM access control for Amazon MSK
  6. Amazon Managed Service for Apache Flink 1.19
  7. AWS Site-to-Site VPN tunnel options

八、小结

本项目使用 AWS DMS 完成正向迁移,由 Debezium 和 Amazon MSK 保存增量数据,并在回退时通过 Amazon Managed Service for Apache Flink 执行有界回放。表分类、幂等、异常审计和对账机制支持失败续跑与切流检查。现有测试已经跑通关键流程,生产环境的小时级 RTO 仍需按真实数据规模和负载验收。

➡️ 下一步行动:

相关产品:

  • Amazon MSK — 完全托管式 Apache Kafka 服务
  • Amazon DMS — 数据库迁移服务
  • Amazon Aurora — 适用于 PostgreSQL、MySQL 和 DSQL 的无服务器关系数据库服务
  • Amazon S3 — 适用于 AI、分析和存档的几乎无限的安全对象存储
  • Amazon IAM — 身份管理和访问权限

相关文章:

*前述特定亚马逊云科技生成式人工智能相关的服务目前在亚马逊云科技海外区域可用。亚马逊云科技中国区域相关云服务由西云数据和光环新网运营,具体信息以中国区域官网为准。

本篇作者

吴兵兵

亚马逊云科技解决方案架构师,负责基于亚马逊云科技的云计算方案架构咨询和设计。

谭志强

亚马逊云科技迁移解决方案架构师,主要负责企业级客户的上云或跨云迁移工作,具有十几年 IT 专业服务经验,历任程序设计师、项目经理、技术顾问、解决方案架构师。


AWS 架构师中心:云端创新的引领者

探索 AWS 架构师中心,获取经实战验证的最佳实践与架构指南,助您高效构建安全、可靠的云上应用