亚马逊AWS官方博客

PB级存储从GP2向GP3的迁移实践

AWS EBS通用型卷GP3于2021年1月即在亚马逊云科技中国北京区和宁夏区推出,距今已有一年多时间。作为下一代通用型 SSD 卷,GP3使客户不仅能够独立于存储容量来预置性能,并且每 GB 价格点比现有 GP2 优惠多达 20%。

为了帮助大家更深入地认识gp3的使用场景和优势,本博客将基于实际客户的EBS转换案例介绍从gp2向gp3转换的过程、限制和收益。

GP2 vs GP3

首先,通过GP2、GP3在性能、价格上做详细对比,可以看到GP3作为下一代通用型 SSD 卷能够为客户提供更高的性价比:

性能

GP2能够提供的IOPS在100~16000之间,基准性能以每 GiB 卷大小 3 IOPS 的速度线性扩展,对于1TB以下的卷提供通过积分累计实现一段时间可以突增至3000IOPS的能力。因此,GP2卷的性能与卷的大小相关联,卷越大,基准性能级别就越高,I/O 积分积累速度也越快。基于这一关联,客户在使用GP2时为获得较高的IOPS,往往需要预制较大的磁盘容量,导致成本偏高。

而GP3的推出正是解耦了IO性能与卷大小的关联关系。GP3提供了一致的基准速率,即 3,000 IOPS 和 125 MiB/s,基准速率包含在存储价格中。在此基础上,客户还可以独立设置 IOPS(高达 16,000 个)和吞吐量(高达 1,000 MiB/s),并根据实际的预置容量付费。在GP3中,预置 IOPS 与预置卷大小的最大比率为 500 IOPS / GiB。也就是说,如果需要16000IOPS,在GP3只需要32GB存储就可达到,而对GP2则需要5.3TB。

价格

目前,GP3每GB的基础价格较GP2降低20%,同时能提供4倍于GP2的最大MPS。下面以提供相同性能的情况下,对GP2和GP3的价格进行对比,可以看到GP3总可以提供较优的价格。

GP2 GP3
IOPS 3IOPS*卷大小(GB) 3000+预置IOPS
MPS 卷大小(GB) * 256KB*3IOPS 125MPS+预置MPS
最大MPS 250MB/s 1000MB/s

180GB之内,GP3比GP2提供20%的优惠。之后优惠比率开始降低,是因为GP3需要为超出基准的MPS付费。在超过320GB之后,优惠比率从5%开始回升至1TB的15%,是因为GP2在1TB可达到3000IOPS,而GP3在IOPS为3000之内都是免费。在超过1TB后,GP3将为超过3000的IOPS付费。


 

 

 

应用的当前配置

磁盘用途 当前大小 需要的最大IOPS
data 2TB <6000
log 2TB <6000
tmp 2TB <6000

在我们实施迁移的实际案例中,客户的生产环境拥有上百套数据库,为OLTP交易型负载。为保证磁盘读写性能,每套库起初统一配置了3块2TB大小存储,分别用于数据卷、日志卷和临时表空间,用于提供最大6000IOPS/卷的读写性能。在推出GP3后,从成本优化的角度开始规划存储类型的迁移。

迁移到GP3

迁移需要考虑的问题

考虑到本次迁移涉及的存储量较大,生产环境中为保证迁移的顺利进行,在迁移之前我们做了如下准备工作:

1.确认每账户的存储限额,必要时开启案例申请提限,包括: Total gp3 Storage Needed (in TiB/account) — 每账户所需的GP3存储容量

Max Modifying General Purpose SSD (gp2) Provisioned Storage in TiB — 修改过程中处于修改状态的GP2存储容量

Max Modifying General Purpose SSD (gp3) Provisioned Storage in TiB — 修改过程中处于修改状态的GP3存储容量

比如我们本次迁移涉及超过1PB的数据,计划通过3个周期分别做迁移,则每账户所需的GP3存储容量为1PB,修改过程中处于修改状态的GP2、GP3的存储容量则分别为350TB。

2.控制单次执行磁盘修改的API调用次数,以保证不被API限流。

本次迁移,除了上面提到的数据库涉及的磁盘,还包括诸多应用、操作系统使用的EBS盘,迁移盘的数量多达5000多块。我们在迁移过程中,单次执行修改控制在600-800块盘,避免造成API限流。

3.选择业务低峰期执行磁盘修改

GP2到GP3的修改支持在线进行,不影响业务的正常运行。磁盘类型在修改过程中磁盘可以对外提供的性能介于修改前和修改后磁盘指定的性能。通常建议选择业务低峰期执行大批量的磁盘修改

4.对同一个卷的持续修改不能少于6小时。

修改卷后,须等待至少六个小时并确保卷处于 in-use 或 available 状态,然后再对同一个卷进行其他修改。因此在修改卷时,需要避免对同一卷做过于频繁的连续修改。

成本优化

将磁盘类型从GP2修改为GP3时,我们在迁移的第一阶段首先选择保持磁盘大小不变,只将磁盘类型修改为GP3,并设定IOPS为6000。这一迁移操作可以在不影响上层应用的情况下在线进行,且能够提供与原配置完全一致的性能。

通过这一简单修改,以当前北京区域为例,每块2TB的磁盘每月成本节省近190元,上百套数据库共涉及500多块盘超过1PB的数据,一年仅转换GP3就可以实现成本节省超过100万人民币。

 

本篇作者

倪惠青

亚马逊云科技 解决方案架构师,负责基于AWS云计算方案架构的咨询和设计,在国内推广AWS云平台技术和各种解决方案。在加入AWS 之前曾在Oracle,Microsoft工作多年,负责企业公有云方案咨询和架构设计,在基础架构及大数据方面有丰富经验。