平乡县网站建设,网站建设云,免费的舆情网站app,如何做淘宝客的网站前言 大家好#xff0c;我是磊哥。今天跟大家探讨一下分布式锁的设计与实现。希望对大家有帮助#xff0c;如果有不正确的地方#xff0c;欢迎指出#xff0c;一起学习#xff0c;一起进步哈~分布式锁概述数据库分布式锁Redis分布式锁Zookeeper分布式锁三种分布式锁对比1.… 前言 大家好我是磊哥。今天跟大家探讨一下分布式锁的设计与实现。希望对大家有帮助如果有不正确的地方欢迎指出一起学习一起进步哈~分布式锁概述数据库分布式锁Redis分布式锁Zookeeper分布式锁三种分布式锁对比1. 分布式锁概述 我们的系统都是分布式部署的日常开发中秒杀下单、抢购商品等等业务场景为了防⽌库存超卖都需要用到分布式锁。分布式锁其实就是控制分布式系统不同进程共同访问共享资源的一种锁的实现。如果不同的系统或同一个系统的不同主机之间共享了某个临界资源往往需要互斥来防止彼此干扰以保证一致性。业界流行的分布式锁实现一般有这3种方式基于数据库实现的分布式锁基于Redis实现的分布式锁基于Zookeeper实现的分布式锁2. 基于数据库的分布式锁 2.1 数据库悲观锁实现的分布式锁可以使用select ... for update 来实现分布式锁。我们自己的项目分布式定时任务就使用类似的实现方案我给大家来展示个简单版的哈表结构如下CREATE TABLE t_resource_lock (key_resource varchar(45) COLLATE utf8_bin NOT NULL DEFAULT 资源主键,status char(1) COLLATE utf8_bin NOT NULL DEFAULT COMMENT S,F,P,lock_flag int(10) unsigned NOT NULL DEFAULT 0 COMMENT 1是已经锁 0是未锁,begin_time datetime DEFAULT NULL COMMENT 开始时间,end_time datetime DEFAULT NULL COMMENT 结束时间,client_ip varchar(45) COLLATE utf8_bin NOT NULL DEFAULT 抢到锁的IP,time int(10) unsigned NOT NULL DEFAULT 60 COMMENT 方法生命周期内只允许一个结点获取一次锁单位分钟,PRIMARY KEY (key_resource) USING BTREE
) ENGINEInnoDB DEFAULT CHARSETutf8 COLLATEutf8_bin加锁lock方法的伪代码如下Transcational //一定要加事务
public boolean lock(String keyResourceint time){resourceLock select * from t_resource_lock where key_resource #{keySource} for update;try{if(resourceLocknull){//插入锁的数据resourceLock new ResourceLock();resourceLock.setTime(time);resourceLock.setLockFlag(1); //上锁resourceLock.setStatus(P); //处理中resourceLock.setBeginTime(new Date());int count insert into resourceLock; if(count1){//获取锁成功return true;}return false;}}catch(Exception x){return false;}//没上锁并且锁已经超时即可以获取锁成功if(resourceLock.getLockFlag0S.equals(resourceLock.getstatus) new Date()resourceLock.addDateTime(resourceLock.getBeginTime(,time)){resourceLock.setLockFlag(1); //上锁resourceLock.setStatus(P); //处理中resourceLock.setBeginTime(new Date());//update resourceLock;return true;}else if(new Date()resourceLock.addDateTime(resourceLock.getBeginTime(,time)){//超时未正常执行结束,获取锁失败return false;}else{return false;}
}解锁unlock方法的伪代码如下public void unlock(String vstatus){resourceLock.setLockFlag(0); //解锁resourceLock.setStatus(status); S:表示成功F表示失败//update resourceLock;return ;
}整体流程try{
if(lock(keyResource,time)){ //加锁status process();//你的业务逻辑处理。}
} finally{unlock(keyResource,status); //释放锁
}其实这个悲观锁实现的分布式锁整体的流程还是比较清晰的。就是先select ... for update 锁住主键key_resource那个记录如果为空则可以插入一条记录如果已有记录判断下状态和时间是否已经超时。这里需要注意一下哈必须要加事务哈。2.2 数据库乐观锁实现的分布式锁除了悲观锁还可以用乐观锁实现分布式锁。乐观锁顾名思义就是很乐观每次更新操作都觉得不会存在并发冲突只有更新失败后才重试。它是基于CAS思想实现的。我以前的公司扣减余额就是用这种方案。搞个version字段每次更新修改都会自增加一然后去更新余额时把查出来的那个版本号带上条件去更新如果是上次那个版本号就更新如果不是表示别人并发修改过了就继续重试。大概流程如下查询版本号和余额select version,balance from account where user_id 666;假设查到版本号是oldVersion1.逻辑处理判断余额if(balance扣减金额){return
}left_balance balance - 扣减金额;进行扣减余额update account set balance #{left_balance} ,version version1 where version #{oldVersion} and balance #{left_balance} and user_id 666;大家可以看下这个流程图哈这种方式适合并发不高的场景一般需要设置一下重试的次数3.基于Redis实现的分布式锁 Redis分布式锁一般有以下这几种实现方式setnx expiresetnx value值是过期时间set的扩展命令set ex px nxset ex px nx 校验唯一随机值,再删除RedissonRedisson RedLock3.1 setnx expire聊到Redis分布式锁很多小伙伴反手就是setnx expire如下ifjedis.setnx(key,lock_value) 1{ //setnx加锁expirekey100; //设置过期时间try {do something //业务处理}catch(){}finally {jedis.del(key); //释放锁}
}这段代码是可以加锁成功但是你有没有发现问题加锁操作和设置超时时间是分开的。假设在执行完setnx加锁后正要执行expire设置过期时间时进程crash掉或者要重启维护了那这个锁就长生不老了别的线程永远获取不到锁啦所以分布式锁不能这么实现3.2 setnx value值是过期时间long expires System.currentTimeMillis() expireTime; //系统时间设置的过期时间
String expiresStr String.valueOf(expires);// 如果当前锁不存在返回加锁成功
if (jedis.setnx(key, expiresStr) 1) {return true;
}
// 如果锁已经存在获取锁的过期时间
String currentValueStr jedis.get(key);// 如果获取到的过期时间小于系统当前时间表示已经过期
if (currentValueStr ! null Long.parseLong(currentValueStr) System.currentTimeMillis()) {// 锁已过期获取上一个锁的过期时间并设置现在锁的过期时间不了解redis的getSet命令的小伙伴可以去官网看下哈String oldValueStr jedis.getSet(key, expiresStr);if (oldValueStr ! null oldValueStr.equals(currentValueStr)) {// 考虑多线程并发的情况只有一个线程的设置值和当前值相同它才可以加锁return true;}
}//其他情况均返回加锁失败
return false;
}日常开发中有些小伙伴就是这么实现分布式锁的但是会有这些缺点过期时间是客户端自己生成的分布式环境下每个客户端的时间必须同步。没有保存持有者的唯一标识可能被别的客户端释放/解锁。锁过期的时候并发多个客户端同时请求过来都执行了jedis.getSet()最终只能有一个客户端加锁成功但是该客户端锁的过期时间可能被别的客户端覆盖。3.3 set的扩展命令(set ex px nx)这个命令的几个参数分别表示什么意思呢跟大家复习一下SET key value [EX seconds] [PX milliseconds] [NX|XX]EX second 设置键的过期时间为second秒。PX millisecond 设置键的过期时间为millisecond毫秒。NX 只在键不存在时才对键进行设置操作。XX 只在键已经存在时才对键进行设置操作。ifjedis.set(key, lock_value, NX, EX, 100s) 1{ //加锁try {do something //业务处理}catch(){}finally {jedis.del(key); //释放锁}
}这个方案可能存在这样的问题锁过期释放了业务还没执行完。锁被别的线程误删。有些伙伴可能会有个疑问就是锁为什么会被别的线程误删呢假设并发多线程场景下线程A获得了锁但是它没释放锁的话线程B是获取不到锁的所以按道理它是执行不到加锁下面的代码滴怎么会导致锁被别的线程误删呢假设线程A和B都想用key加锁最后A抢到锁加锁成功但是由于执行业务逻辑的耗时很长超过了设置的超时时间100s。这时候Redis就自动释放了key锁。这时候线程B就可以加锁成功了接下啦它也执行业务逻辑处理。假设碰巧这时候A执行完自己的业务逻辑它就去释放锁但是它就把B的锁给释放了。3.4 set ex px nx 校验唯一随机值,再删除为了解决锁被别的线程误删问题。可以在set ex px nx的基础上加上个校验的唯一随机值如下ifjedis.set(key, uni_request_id, NX, EX, 100s) 1{ //加锁try {do something //业务处理}catch(){}finally {//判断是不是当前线程加的锁,是才释放if (uni_request_id.equals(jedis.get(key))) {jedis.del(key); //释放锁}}
}在这里判断当前线程加的锁和释放锁不是一个原子操作。如果调用jedis.del()释放锁的时候可能这把锁已经不属于当前客户端会解除他人加的锁。一般可以用lua脚本来包一下。lua脚本如下if redis.call(get,KEYS[1]) ARGV[1] then return redis.call(del,KEYS[1])
elsereturn 0
end;这种方式比较不错了一般情况下已经可以使用这种实现方式。但是还是存在锁过期释放了业务还没执行完的问题。3.5 Redisson对于可能存在锁过期释放业务没执行完的问题。我们可以稍微把锁过期时间设置长一些大于正常业务处理时间就好啦。如果你觉得不是很稳还可以给获得锁的线程开启一个定时守护线程每隔一段时间检查锁是否还存在存在则对锁的过期时间延长防止锁过期提前释放。当前开源框架Redisson解决了这个问题。可以看下Redisson底层原理图只要线程一加锁成功就会启动一个watch dog看门狗它是一个后台线程会每隔10秒检查一下如果线程1还持有锁那么就会不断的延长锁key的生存时间。因此Redisson就是使用watch dog解决了锁过期释放业务没执行完问题。3.6 Redisson RedLock前面六种方案都只是基于Redis单机版的分布式锁讨论还不是很完美。因为Redis一般都是集群部署的如果线程一在Redis的master节点上拿到了锁但是加锁的key还没同步到slave节点。恰好这时master节点发生故障一个slave节点就会升级为master节点。线程二就可以顺理成章获取同个key的锁啦但线程一也已经拿到锁了锁的安全性就没了。为了解决这个问题Redis作者antirez提出一种高级的分布式锁算法Redlock。它的核心思想是这样的部署多个Redis master以保证它们不会同时宕掉。并且这些master节点是完全相互独立的相互之间不存在数据同步。同时需要确保在这多个master实例上是与在Redis单实例使用相同方法来获取和释放锁。我们假设当前有5个Redis master节点在5台服务器上面运行这些Redis实例。RedLock的实现步骤:获取当前时间以毫秒为单位。按顺序向5个master节点请求加锁。客户端设置网络连接和响应超时时间并且超时时间要小于锁的失效时间。假设锁自动失效时间为10秒则超时时间一般在5-50毫秒之间,我们就假设超时时间是50ms吧。如果超时跳过该master节点尽快去尝试下一个master节点。客户端使用当前时间减去开始获取锁时间即步骤1记录的时间得到获取锁使用的时间。当且仅当超过一半N/21这里是5/213个节点的Redis master节点都获得锁并且使用的时间小于锁失效时间时锁才算获取成功。如上图10s 30ms40ms50ms4m0s50ms如果取到了锁key的真正有效时间就变啦需要减去获取锁所使用的时间。如果获取锁失败没有在至少N/21个master实例取到锁有或者获取锁时间已经超过了有效时间客户端要在所有的master节点上解锁即便有些master节点根本就没有加锁成功也需要解锁以防止有些漏网之鱼。简化下步骤就是按顺序向5个master节点请求加锁根据设置的超时时间来判断是不是要跳过该master节点。如果大于等于3个节点加锁成功并且使用的时间小于锁的有效期即可认定加锁成功啦。如果获取锁失败解锁Redisson实现了redLock版本的锁有兴趣的小伙伴可以去了解一下哈~4. Zookeeper分布式锁 在学习Zookeeper分布式锁之前我们复习一下Zookeeper的节点哈。Zookeeper的节点Znode有四种类型持久节点默认的节点类型。创建节点的客户端与zookeeper断开连接后该节点依旧存在。持久节点顺序节点所谓顺序节点就是在创建节点时Zookeeper根据创建的时间顺序给该节点名称进行编号持久节点顺序节点就是有顺序的持久节点。临时节点和持久节点相反当创建节点的客户端与zookeeper断开连接后临时节点会被删除。临时顺序节点有顺序的临时节点。Zookeeper分布式锁实现应用了临时顺序节点。这里不贴代码啦来讲下zk分布式锁的实现原理吧。4.1 zk获取锁过程当第一个客户端请求过来时Zookeeper客户端会创建一个持久节点locks。如果它Client1想获得锁需要在locks节点下创建一个顺序节点lock1.如图接着客户端Client1会查找locks下面的所有临时顺序子节点判断自己的节点lock1是不是排序最小的那一个如果是则成功获得锁。这时候如果又来一个客户端client2前来尝试获得锁它会在locks下再创建一个临时节点lock2客户端client2一样也会查找locks下面的所有临时顺序子节点判断自己的节点lock2是不是最小的此时发现lock1才是最小的于是获取锁失败。获取锁失败它是不会甘心的client2向它排序靠前的节点lock1注册Watcher事件用来监听lock1是否存在也就是说client2抢锁失败进入等待状态。此时如果再来一个客户端Client3来尝试获取锁它会在locks下再创建一个临时节点lock3同样的client3一样也会查找locks下面的所有临时顺序子节点判断自己的节点lock3是不是最小的发现自己不是最小的就获取锁失败。它也是不会甘心的它会向在它前面的节点lock2注册Watcher事件以监听lock2节点是否存在。4.2 释放锁我们再来看看释放锁的流程Zookeeper的客户端业务完成或者发生故障都会删除临时节点释放锁。如果是任务完成Client1会显式调用删除lock1的指令如果是客户端故障了根据临时节点得特性lock1是会自动删除的lock1节点被删除后Client2可开心了因为它一直监听着lock1。lock1节点删除Client2立刻收到通知也会查找locks下面的所有临时顺序子节点发下lock2是最小就获得锁。同理Client2获得锁之后Client3也对它虎视眈眈啊哈哈~Zookeeper设计定位就是分布式协调简单易用。如果获取不到锁只需添加一个监听器即可很适合做分布式锁。Zookeeper作为分布式锁也缺点如果有很多的客户端频繁的申请加锁、释放锁对于Zookeeper集群的压力会比较大。5. 三种分布式锁对比 5.1 数据库分布式锁实现优点简单使用方便不需要引入Redis、zookeeper等中间件。缺点不适合高并发的场景db操作性能较差5.2 Redis分布式锁实现优点性能好适合高并发场景较轻量级有较好的框架支持如Redisson缺点过期时间不好控制需要考虑锁被别的线程误删场景5.3 Zookeeper分布式锁实现缺点性能不如redis实现的分布式锁比较重的分布式锁。优点有较好的性能和可靠性有封装较好的框架如Curator5.4 对比汇总从性能角度从高到低Redis Zookeeper 数据库从理解的难易程度角度从低到高数据库 Redis Zookeeper从实现的复杂性角度从低到高Zookeeper Redis 数据库从可靠性角度从高到低Zookeeper Redis 数据库。最后(求关注别白嫖我) 如果这篇文章对您有所帮助或者有所启发的话求一键三连点赞、转发、在看您的支持是我坚持写作最大的动力。
