win7 iis7 添加网站,秦皇岛 网站建设,潍坊网站做的好的公司,配置外网访问WordPress互联网创业中大部分人都是草根创业#xff0c;这个时候没有强劲的服务器#xff0c;也没有钱去买很昂贵的海量数据库。在这样严峻的条件下#xff0c;一批又一批的创业者从创业中获得成 功#xff0c;这个和当前的开源技术、海量数据架构有着必不可分的关系。比如我们使用m…互联网创业中大部分人都是草根创业这个时候没有强劲的服务器也没有钱去买很昂贵的海量数据库。在这样严峻的条件下一批又一批的创业者从创业中获得成 功这个和当前的开源技术、海量数据架构有着必不可分的关系。比如我们使用mysql、nginx等开源软件通过架构和低成本服务器也可以搭建千万级用 户访问量的系统。新浪微博、淘宝网、腾讯等大型互联网公司都使用了很多开源免费系统搭建了他们的平台。所以用什么没关系只要能够在合理的情况下采用合 理的解决方案。
那怎么搭建一个好的系统架构呢这个话题太大这里主要说一下数据分流的方式。比如我们的数据库服务器只能存储200个数据突然要搞一个活动预估达到600个数据。 可以采用两种方式横向扩展或者纵向扩展。纵向扩展是升级服务器的硬件资源。但是随着机器的性能配置越高价格越高这个代价对于一般的小公司是承担不起的。横向扩展是采用多个廉价的机器提供服务。这样一个机器只能处理200个数据、3个机器就可以处理600个数据了如果以后业务量增加还可以快速配置增加。在大多数情况都选择横向扩展的方式。如下图 现在有个问题了这600个数据如何路由到对应的机器。需要考虑如果均衡分配假设我们600个数据都是统一的自增id数据从1~600分成3 堆可以采用 id mod 3的方式。其实在真实环境可能不是这种id是字符串。需要把字符串转变为hashcode再进行取模。
目前看起来是不是解决我们的问题了所有数据都很好的分发并且没有达到系统的负载。但如果我们的数据需要存储、需要读取就没有这么容易了。业务增多 怎么办大家按照上面的横向扩展知道需要增加一台服务器。但是就是因为增加这一台服务器带来了一些问题。看下面这个例子一共9个数需要放到2台机器 1、2上。各个机器存放为1号机器存放1、3、5、7、9 2号机器存放 2、4、6、8。如果扩展一台机器3如何数据就要发生大迁移1号机器存放1、4、7, 2号机器存放2、5、8, 3号机器存放3、6、9。如图 从图中可以看出 1号机器的3、5、9迁移出去了、2好机器的4、6迁移出去了按照新的秩序再重新分配了一遍。数据量小的话重新分配一遍代价并不大但如果我们拥有上 亿、上T级的数据这个操作成本是相当的高少则几个小时多则数天。并且迁移的时候原数据库机器负载比较高那大家就有疑问了是不是这种水平扩展的架构方 式不太合理
—————————–华丽分割线—————————————
一致性hash就是在这种应用背景提出来的现在被广泛应用于分布式缓存比如memcached。下面简单介绍下一致性hash的基本原理。最早 的版本 http://dl.acm.org/citation.cfm?id258660。国内网上有很多文章都写的比较好。如 http://blog.csdn.net/x15594/article/details/6270242
下面简单举个例子来说明一致性hash。
准备1、2、3 三台机器 还有待分配的9个数 1、2、3、4、5、6、7、8、9 一致性hash算法架构
步骤 一、构造出来 2的32次方 个虚拟节点出来因为计算机里面是01的世界进行划分时采用2的次方数据容易分配均衡。另 2的32次方是42亿我们就算有超大量的服务器也不可能超过42亿台吧扩展和均衡性都保证了。 二、将三台机器分别取IP进行hashcode计算这里也可以取hostname只要能够唯一区别各个机器就可以了然后映射到2的32次方上去。 比如1号机器算出来的hashcode并且mod (2^32)为 123这个是虚构的2号机器算出来的值为 23004203号机器算出来为 90203920。这样三台机器就映射到了这个虚拟的42亿环形结构的节点上了。 三、将数据1-9也用同样的方法算出hashcode并对42亿取模将其配置到环形节点上。假设这几个节点算出来的值为 11022356435746984556896326865468457122833006899135468。可 以看出 1、3、7小于123 2、4、9 小于 2300420 大于 123 5、6、8 大于 2300420 小于90203920。从数据映射到的位置开始顺时针查找将数据保存到找到的第一个Cache节点上。如果超过2^32仍然找不到Cache节点就会 保存到第一个Cache节点上。也就是1、3、7将分配到1号机器2、4、9将分配到2号机器5、6、8将分配到3号机器。 这个时候大家可能会问我到现在没有看见一致性hash带来任何好处比传统的取模还增加了复杂度。现在马上来做一些关键性的处理比如我们增加一台机 器。按照原来我们需要把所有的数据重新分配到四台机器。一致性hash怎么做呢现在4号机器加进来他的hash值算出来取模后是12302012。 5、8 大于2300420 小于12302012 6 大于 12302012 小于90203920 。这样调整的只是把5、8从3号机器删除4号机器中加入 5、6。 同理删除机器怎么做呢假设2号机器挂掉受影响的也只是2号机器上的数据被迁移到离它节点上图为4号机器。 大家应该明白一致性hash的基本原理了吧。不过这种算法还是有缺陷比如在机器节点比较少、数据量大的时候数据的分布可能不是很均衡就会导致其中一 台服务器的数据比其他机器多很多。为了解决这个问题需要引入虚拟服务器节点的机制。如我们一共有只有三台机器1、2、3。但是实际又不可能有这么多机 器怎么解决呢把 这些机器各自虚拟化出来3台机器也就是 1a 1b 1c 2a 2b 2c 3a 3b 3c这样就变成了9台机器。实际 1a 1b 1c 还是对应1。但是实际分布到环形节点就变成了9台机器。数据分布也就能够更分散一点。如图
写了这么多一致性hash这个和分布式搜索有什么半点关系我们现在使用solr4搭建了分布式搜索测试了基于solrcloud的分布式平台 提交20条数据居然需要几十秒所以就废弃了solrcloud。采用自己hack solr平台不用zookeeper做分布式一致性管理平台自己管理数据的分发机制。既然需要自己管理数据的分发就需要考虑到索引的创建索引的更 新。这样我们的一致性hash也就用上了。整体架构如下图
建立和更新需要维持机器的位置能够根据数据的key找到对应的数据分发并更新。这里需要考虑的是如何高效、可靠的把数据建立、更新到索引里。备份服务器防止建立服务器挂掉可以根据备份服务器快速恢复。读服务器主要做读写分离使用防止写索引影响查询数据。集群管理服务器管理整个集群内的服务器状态、告警。
整个集群随着业务增多还可以按照数据的类型划分比如用户、微博等。每个类型按照上图架构搭建就可以满足一般性能的分布式搜索。对于solr和分布式搜索的话题后续再聊。
扩展阅读 java的hashmap随着数据量的增加也会出现map调整的问题必要的时候就初始化足够大的size以防止容量不足对已有数据进行重新hash计算。
疫苗Java HashMap的死循环 http://coolshell.cn/articles/9606.html 一致性哈希算法的优化—-关于如何保正在环中增加新节点时命中率不受影响 原拍拍同事scotthttp://scottina.iteye.com/blog/650380
语言实现 http://weblogs.java.net/blog/2007/11/27/consistent-hashing java 版本的例子 http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx PHP 版的例子 http://www.codeproject.com/KB/recipes/lib-conhash.aspx C语言版本例子
