最好的模板网站,怎样做网站管理与维护,平面设计免费网站推荐,普通的订阅号怎么做微网站目录
理论知识点
角色功能
元数据持久化
安全模式
SecondaryNameNode(SNN)
副本放置策略
HDFS写流程
HDFS读流程
HA高可用
CPA原则
Paxos算法
HA解决方案
HDFS-Fedration解决方案#xff08;联邦机制#xff09; 理论知识点 角色功能 元数据持久化 另一台机器就…目录
理论知识点
角色功能
元数据持久化
安全模式
SecondaryNameNode(SNN)
副本放置策略
HDFS写流程
HDFS读流程
HA高可用
CPA原则
Paxos算法
HA解决方案
HDFS-Fedration解决方案联邦机制 理论知识点 角色功能 元数据持久化 另一台机器就是SecondaryNameNode(SNN)
安全模式 不保存位置信息的原因是因为当机器重启恢复后DN会和NN建立心跳汇报块信息。这个过程叫安全模式。
SecondaryNameNode(SNN)
非HA模式下才有SNN跟版本没有关系企业一般不用SNN而用高可用HA方式。 副本放置策略
塔式服务器竖的价格便宜
机架服务器扁的价格中等最上面放一个交换机ups(电源电池防断电)
刀片服务器插入的价格较贵 2.x修正为第二个副本立即出机架因为有可能把副本数修改为2 HDFS写流程
某个时间点传其中一个block的时候状态图
client向NN请求创建文件这个时候NN返回副本放置策略按距离排序 HDFS读流程 HA高可用
主从单点故障、压力过大、内存受限 2.x匆匆上线HA只实现了一主一备3.0之后一周多备可以支持5个官方推荐3个 一份为二上面蓝色是故障切换自动化下面是手动的HA模式
CPA原则
分区容忍性即脑裂 Paxos算法
帕克索斯算法Google Chubby的作者Mike Burrows说过这个世界上只有一种一致性算法那就是Paxos其它的算法都是残次品。
主从过半 参考https://www.cnblogs.com/crazymakercircle/p/14341015.html 强一致、弱一致都能做区块链中也是基于该算法
ZooKeeper中使用的是Paxos的简化版本ZABZK做分布式协调 早期用的多后来大家都把他剔除了最多用zk选个主做配置的同步或者唯一性。因为zk解决是解决的是事件的触发解决决策之间某一种事件的调用不适合存东西。
JournalNodes(Journal杂志、期刊) 跟ZK不是一个东西JournalNodes做分布式存储 JournalNodes是为了解决节点之间数据同步的。
HA解决方案 FalioverController是用来做健康检查的。
跟NN在同一个节点它们是不同的进程FalioverController会监控NN是否活着。
ZK维护一个目录树结构主备FalioverController会在ZK同时申请在X节点下抢锁谁抢到谁就是active否则是standby。
当FalioverController进程监控到了Active的NN挂了然后FalioverController会把ZK当中抢到的锁删掉。锁删除是一种事件机制会有callback。
ZK Watch监控FC抢锁时还在ZK的锁上注册了自己的地址还包括回调函数当FC删除锁时产生删除事件这个删除事件就会触发callback就会回调FC里的方法在fc的进程里执行这是FC发现锁没有了会重新抢锁。
如果是轮询查询锁在不在会存在轮询间隔所以会用事件callback机制。
NN还活着FC挂了与ZK节点挂了FC临时节点随着TCP连接的消失会触发删除事件。
FC会去检查之前Active的NN是不是真死了没死就把它降级为standby再把自己升级为active。当网络不通或者什么异常导致无法判断对方是不是真的挂了此时不会把自己升级为active这种情况出现的几率很低。两台主机通过串口相连这个连接可以当成可靠的 HA模式下SNN的角色被Standby替代了不承担服务滚动生成FsImage并把生成的FsImage推回去以便宕机后的快速恢复。
HDFS-Fedration解决方案联邦机制
联邦机制各个联邦属于同一个国家统一一套资源
