如何去平滑地迁移数据库中的数据

来源: 云巴巴 2022-11-21 11:16:09

 

    你可能会认为:数据迁移无非是将数据从一个数据库拷贝到另一个数据库,可以通过 MySQL 主从同步的方式做到准实时的数据拷贝;也可以通过 mysqldump 工具将源库的数据导出,再导入到新库,这有什么复杂的呢?

    其实,这两种方式只能支持单库到单库的迁移,无法支持单库到多库多表的场景。而且即便是单库到单库的迁移,迁移过程也需要满足以下几个目标,迁移应该是在线的迁移,也就是在迁移的同时还会有数据的写入,数据应该保证完整性,也就是说在迁移之后需要保证新的库和旧的库的数据是一致的;迁移的过程需要做到可以回滚,这样一旦迁移的过程中出现问题,可以立刻回滚到源库,不会对系统的可用性造成影响。

    如果你使用 Binlog 同步的方式,在同步完成后再修改代码,将主库修改为新的数据库,这样就不满足可回滚的要求,一旦迁移后发现问题,由于已经有增量的数据写入了新库而没有写入旧库,不可能再将数据库改成旧库。

    数据库的迁移,其实说起来也很简单,它可以分为以下几个步骤:将新的库配置为源库的从库,用来同步数据;如果需要将数据同步到多库多表,那么可以使用一些第三方工具获取 Binlog 的增量日志(比如开源工具 Canal),在获取增量日志之后就可以按照分库分表的逻辑写入到新的库表中了。同时,我们需要改造业务代码,在数据写入的时候,不仅要写入旧库,也要写入新库。当然,基于性能的考虑,我们可以异步地写入新库,只要保证旧库写入成功即可。但是,我们需要注意的是,需要将写入新库失败的数据记录在单独的日志中,这样方便后续对这些数据补写,保证新库和旧库的数据一致性。

    然后,我们就可以开始校验数据了。由于数据库中数据量很大,做全量的数据校验不太现实。你可以抽取部分数据,具体数据量依据总体数据量而定,只要保证这些数据是一致的就可以。

如果一切顺利,我们就可以将读流量切换到新库了。

    由于有双写的存在,所以在切换的过程中出现任何的问题,都可以将读写流量随时切换到旧库去,保障系统的性能。在观察了几天发现数据的迁移没有问题之后,就可以将数据库的双写改造成只写新库,数据的迁移也就完成了。

 

 

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

干货分享!优炫数据库三大业务创新实践

干货分享!优炫数据库三大业务创新实践

    我们正处于大数据爆炸的时代。在中国市场,互联网和移动互联网的快速发展带来了数据的爆炸式增长。具体到行业,国内的金融、电信网络运营商、政府等机构工作本身就已经积累了经验丰富的海量信息数据,并且从过去的数据源单一走向数据源多样化。     随着社会各个

2022-11-21 15:49:23

数据库文件系统阶段的数据管理特点

数据库文件系统阶段的数据管理特点

本文主要从数据库文件系统阶段的数据管理的优点和缺点两个方面来说一下。 优点 由于我国计算机的应用研究转向信息资源管理,因此对文件要进行分析大量的查询、修改和插入等操作。所以,数据库以“文件”形式可长期进行保存在外部数据存储器的磁盘上。

2022-11-22 10:51:42

分布式数据库在金融行业中的应用场景

分布式数据库在金融行业中的应用场景

以后金融行业中,分布式数据库在五大领域中得到使用:数据堆栈、大数据平台、内容管理平台、数据中台、与联机交易,对于网上的分布式数据库,目前行业围绕三个业务场景旋转。

2020-04-17 21:39:28

据说数据库也去中心化,关于分布式数据库

据说数据库也去中心化,关于分布式数据库

带您了解“分布式数据库”。 通过云计算的新技术的推动下,大数据,越来越多的大型企业需要在管理查询,分析,处理和更新结构的数据。

2020-04-16 17:39:37

厉害了!TDSQL再获2021年度技术卓越奖

厉害了!TDSQL再获2021年度技术卓越奖

TDSQL又双叒叕获奖啦!在2021年IT168对外公布的“数据库·数据风云奖”评选中,经由行业技术专家及IT媒体多方联合评审,腾讯云企业级分布式数据库TDSQL凭借其出众的产品实力斩获‘‘2021年度技术卓越奖’’

2021-12-23 10:35:12

热璞数据库HotDB收到央视网感谢信

热璞数据库HotDB收到央视网感谢信

热璞数据库HotDB收到了来自央视网的感谢信,对在庆祝新中国成立70周年报道工作中,热璞数据库HotDB做出的贡献给予表彰。央视网是热璞数据库HotDB多年使用分布式事务数据库产品HotDB Server的重要客户。

2020-02-10 17:16:06

严选云产品

工业SOC 工业互联网信息安全管理系统(工业SOC)是专门面向工业互联网领域信息安全防护的综合管理平台系统。该产品在继承了启明星辰泰合信息安全运营中心系统(TSOC)强大的安全信息采集、分析和展现能力基础上,提供了适应工业互联网环境安全监控和防护的综合管理功能。
Wings目标管理工具 Wings目标管理工具适合国内企业使用的目标管理软件,以“目标”为基点,集成了目标、项目、汇报、 绩效等功能,将目标执行过程中的人、财、事高效联结,形成完整的PDCA工作循环,解决了组织大 目标与员工执行脱钩、管理缺乏过程管控、绩效激励低效等问题,致力于提升组织协作效率,让管 理更有“掌控感”,目前已经服务了互联网、制造业、跨境贸易、游戏、新能源、电商、服务等众多行业客户。
的修厂商售后管理解决方案 “的修”平台,是一款基于云计算、大数据、人工智能研发的售后报修管理系统,以诠释着“万物互联”概念,将售后报修维修、巡检、能耗、智识库、配件管理、管线智慧云等应用场景服务形成动态数据链条,链接本地服务器实现数据同步,并通过高效、扁平、精细化的管控模式、专属的绩效管理模式和大数据分析模式,帮助厂商打造高效的售后服务体系,提升客户服务体验,降低服务成本。
UCSG-ASWG统一内容安全网关 统一内容安全网关-UCSG(Unified Content Security Gateway)用于一般位于企业/组织的互联网出口处, 接受UCSS的统一管理并负责具体的数据泄露防护功能和策略的执行以及与其他设备的联动
畅捷通客户管家云ERP企业管理系统 畅捷通客户管家,云ERP企业管理系统,客户信息随身携带,销售进度实时掌握,客户管家是最易用、实用的移动销售APP,是业务员的助手,老板的管家。
帆软酒店行业数据分析解决方案 帆软酒店行业数据分析解决方案实现报表自动化平台,节约人力成本,提高人均效能。以及集团数据监控平台,可以发现问题,提高收入。

甄选10000+数字化产品 为您免费使用

申请试用