博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
全球项目多区域数据同步问题解决方案
阅读量:5299 次
发布时间:2019-06-14

本文共 2461 字,大约阅读时间需要 8 分钟。

一、背景

我们公司的用户分布在全球,因为考虑到产品性能和国内安全防护的特殊情况,所以服务端代码分别部署在中、欧、美三个区域的服务器上,同时,也部署了一台用于对全球账号、设备进行唯一验证和管理的全球服务器。

因为各个区域有部分数据表或缓存数据是需要事先在管理后台配置,且大多数据在各个区域一致,因此考虑在全球服务器进行统一配置后直接同步到各个区域服务器。

二、数据同步目标

1. 全球服务器指定数据发生增、删、改时,操作需要同步到中欧美三个区域对应的服务器;

2. 部分数据需要根据数据所属区域分别同步到指定的区域服务器;

3. 新部署服务器后,可以在全球服务器操作一键同步所有配置数据,需要分区域的数据也要区分区域后全部同步;

4. 区域服务器包括web服务器、文件云存储管理服务器、p2p服务器、rpc服务器,web服务器需要同步的数据存储在Mysql数据库,其他服务器需要同步的数据主要存储在redis缓存中;

5. 数据同步实时性要求较高,项目上线后,真实需要在1分钟以内完成数据同步。

ps:项目整体服务架构不在本文讨论范围内,我们其实也在摸索中学习进步,如果有高人不小心看到本篇博客,对架构这部分有经验热心指导的话,还请留言告知,可以加好友学习请教,谢谢。

三、方案思考

遇到这个需求后,查阅了网上各路大神的博客,没有遇到雷同的经验和方案,于是又到技术群请教,本来没多少有效可执行的方案头绪,结果在几个热心大神的启示下,打开了思路,最终得到一个比较有效可执行的方案。

1. 从Mysql层考虑

遇到数据同步问题,大多数人第一反应都是Mysql主从同步,不太了解的朋友可以参考:

https://www.cnblogs.com/zhoujie/p/mysql1.html

https://blog.csdn.net/weixin_41909810/article/details/82939966

如果是同步Mysql部分数据库或部分数据表,可以参考:

https://www.2cto.com/database/201708/674665.html

https://www.csdn.net/gather_2d/MtTaEg5sODY1MS1ibG9n.html

还有朋友推荐考虑使用Mysql的触发器进行部分数据同步,也有一篇文章参考:

https://blog.csdn.net/forever_chm/article/details/86239814

最后没有采用直接配置Mysql数据库同步的方案,原因如下:

(1)因为我没有在实际项目中对mysql进行过这类操作,所以担心后期对数据库造成性能影响;

(2)项目中部分数据表数据不能完全同步到各个区域,需要对数据所属区域进行区分后再同步;

(3)部分数据需要同步至文件云存储、rpc、p2p服务器的缓存数据中,直接操作Mysql不行。

ps:如果只是同步全球数据库的部分表到各个区域数据库,使用Mysql主从同步部分表的操作应该没毛病。

2. 从Redis层考虑

Redis也有数据同步功能,操作参考:

https://blog.csdn.net/ligh_sqh/article/details/79383667

Redis同步指定key到其他库参考:

https://www.cnblogs.com/egrep/p/10084247.html

最后也没有采用Redis数据同步的方式,原因是全球服务器缓存应用和区域完全不同,区域服务器有专属当前区域操作的业务Redis缓存数据,所以如果这样做的话细节问题就太多了。

3. 从消息队列服务考虑

还有朋友建议使用消息队列服务。全球服务器作为生产者,区域服务器作为消费者,在全球服务器操作指定数据后,加入操作内容及数据到队列,消息队列服务配置好需要进行消费的区域服务器接口,实现数据生产 => 消费过程。

这个方案思路让我眼前一新,花了一天思路整理细节逻辑,得到一个绝对可落地的方案,大体如下:

(1)全球服务器根据数据操作类型(增、删、改)以及同步对象的区别(不同类型的区域服务器),对数据进行处理,然后加入Redis数据同步队列;

(2)区域服务器根据自己的数据需求,增加一个数据同步的消费接口,消费成功响应1000,消费失败响应失败数据;

(3)全球服务器增加一个消费Redis数据同步队列的服务,服务中区分同步服务器对象类型,分别调用不同服务器的同步数据消费接口,并且检测同步响应结果,可能存网络原因,如果同步失败,重新进行同步,并增加redis计数器,同一条同步数据超过3次同步失败,加入到数据同步失败日志中,并记录数据同步响应错误结果。

ps:本来有考虑单独开一个消息队列服务,但因为一条数据会同步给多个服务器的情况,就只好在全球服务器中通过代码处理数据再同步至多个服务器。

四、实际落地方案

上文中的方案3是全球数据同步至各区域不同服务器的主要落地方案,但如果所有区域数据库或缓存都通过全球服务器去主动同步,那项目逐渐增大后,性能问题和潜在的架构复杂度也成指数上涨,所以全球到区域的数据同步,要做分层处理,如下:

1. 全球配置数据通过上文方案3同步到区域主服务器(主数据库 / 主Redis);

2. 区域再通过主数据库或主Redis做主从同步,为二级数据库和Redis同步数据。

这样下来,全球服务器数据同步只需要调用对应区域主服务器消费接口就行,至于区域内部的数据同步,就在各自区域内进行操作,和全球服务器没关系。

 

以上的方案已经在实际项目中操作完成,效果还不错,如果有朋友感兴趣,想了解具体细节,欢迎留言讨论。

---------------------
 原文:https://blog.csdn.net/createNo_1/article/details/94594558
 

转载于:https://www.cnblogs.com/jaylongli/p/11210376.html

你可能感兴趣的文章
[转]关于截取字符串substr和substring两者的区别
查看>>
5.19作业
查看>>
C#多线程问题
查看>>
python规范 记录
查看>>
MyBatis日记(一):拜见小主——MyBatis
查看>>
11..19scrum会议
查看>>
luogu P2221[HAOI2012]高速公路
查看>>
NYOJ 数独 DFS
查看>>
Linux命令(九)查找文件find
查看>>
linux
查看>>
mysql存储过程异常处理
查看>>
smarty变量调节和应用 18.5.2
查看>>
Feel Good (poj 2796)
查看>>
leetcode 47 Permutations II ----- java
查看>>
目前最火的php框架
查看>>
图像融合之拉普拉斯融合(laplacian blending)
查看>>
Redisson分布式锁的简单使用
查看>>
连接查询(等值连接和内连接)
查看>>
求二维数组中的最大最小元素的行和列
查看>>
HTML中将背景颜色渐变
查看>>