深圳住房和建设局新网站,wordpress固定链接设置后进入不,苏州网站建站公司,威海专业做网站公司1.数据切分概念
数据的切分[#xff08;Sharding#xff09;]根据其切分规则的类型#xff0c;可以分为两种切分模式。一种是按照不同的表#xff08;或者Schema#xff09;来切分到不同的数据库#xff08;主机#xff09;)之上#xff0c;这种切可以称之为数据的垂直…
1.数据切分概念
数据的切分[Sharding]根据其切分规则的类型可以分为两种切分模式。一种是按照不同的表或者Schema来切分到不同的数据库主机)之上这种切可以称之为数据的垂直纵向切分另外一则是根据表中的数据的逻辑关系将同一个表中的数据按照某种条件拆分到多台数据库主机上面这种切分称之为数据的水平[横向]切分。 垂直切分的最大特点就是规则简单实施也更为方便尤其适合各业务之间的耦合度非常低相互影响很小业务逻辑非常清晰的系统。在这种系统中可以很容易做到将不同业务模块所使用的表分拆到不同的数据库中。根据不同的表来进行拆分对应用程序的影响也更小拆分规则也会比较简单清晰。 水平切分于垂直切分相比相对来说稍微复杂一些。因为要将同一个表中的不同数据拆分到不同的数据库中对于应用程序来说拆分规则本身就较根据表名来拆分更为复杂后期的数据维护也会更为复杂一些。
垂直切分
一个数据库由很多表的构成每个表对应着不同的业务垂直切分是指按照业务将表进行分类分布到 不同 的数据库上面这样也就将数据或者说压力分担到不同的库上面如下图 一般来讲业务存在着复杂 join 的场景是难以切分的往往业务独立的易于切分。如何切分切分到何种程度是考验技术架构的一个难题。 下面来分析下垂直切分的优缺点
优点
拆分后业务清晰拆分规则明确。系统之间整合或扩展容易。数据维护简单。
缺点
部分业务表无法 join只能通过接口方式解决提高了系统复杂度。受每种业务不同的限制存在单库性能瓶颈不易数据扩展跟性能提高。事务处理复杂。 由于垂直切分是按照业务的分类将表分散到不同的库所以有些业务表会过于庞大存在单库读写与存储瓶颈所以就需要水平拆分来做解决。
水平切分
相对于垂直拆分水平拆分不是将表做分类而是按照某个字段的某种规则来分散到多个库之中每个表中包含一部分数据。简单来说我们可以将数据的水平切分理解为是按照数据行的切分就是将表中的某些行切分到一个数据库而另外的某些行又切分到其他的数据库中如图 拆分数据就需要定义分片规则。关系型数据库是行列的二维模型拆分的第一原则是找到拆分维度。几种典型的分片规则包括 ? 按照用户 ID 求模将数据分散到不同的数据库具有相同数据用户的数据都被分散到一个库中。 ? 按照日期将不同月甚至日的数据分散到不同的库中。 ? 按照某个特定的字段求摸或者根据特定范围段分散到不同的库中。 优点
拆分规则抽象好join 操作基本可以数据库做。不存在单库大数据高并发的性能瓶颈。应用端改造较少。提高了系统的稳定性跟负载能力。
缺点
拆分规则难以抽象。分片事务一致性难以解决。数据多次扩展难度跟维护量极大。跨库 join 性能较差。
垂直切分和水平切分都有缺点但共同的缺点有
引入分布式事务的问题。跨节点 Join 的问题。跨节点合并排序分页问题。多数据源管理问题。
针对数据源管理目前主要有两种思路 A. 客户端模式在每个应用程序模块中配置管理自己需要的一个或者多个数据源直接访问各个数据 库在模块内完成数据的整合 B. 通过中间代理层来统一管理所有的数据源后端数据库集群对前端应用程序透明
集中式代理 proxy mycat
嵌入应用去中心化架构 sharding-jdbc
基于主机进程的去中心化架构 sharding-sidecar service mesh
数据切分原则
第一原则能不切分尽量不要切分。
第二原则如果要切分一定要选择合适的切分规则提前规划好。
第三原则数据切分尽量通过数据冗余或表分组来降低跨库 Join 的可能。
第四原则由于数据库中间件对数据 Join 实现的优劣难以把握而且实现高性能难度极大业务读取尽量 少使用多表 Join。
2.什么是Mycat
定义
一个彻底开源的面向企业应用开发的大数据库集群支持事务、ACID、可以替代MySQL的加强版数据库一个可以视为MySQL集群的企业级数据库用来替代昂贵的Oracle集群一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品一个新颖的数据库中间件产品 跨分片数据合并
应用场景
Mycat 发展到现在适用的场景已经很丰富而且不断有新用户给出新的创新性的方案以下是几个典 型的 应用场景
单纯的读写分离此时配置最为简单支持读写分离主从切换 分表分库对于超过 1000 万的表进行分片最大支持 1000 亿的单表分片 多租户应用每个应用一个库但应用程序只连接 Mycat从而不改造程序本身实现多租户化 报表系统借助于 Mycat的分表能力处理大规模报表的统计 替代 Hbase分析大数据
作为海量数据实时查询的一种简单有效方案比如 100 亿条频繁查询的记录需要在 3 秒内查询出来结果 除了基于主键的查询还可能存在范围查询或其他属性查询此时 Mycat 可能是最简单有效的选择
3.Mycat中的核心概念及配置
核心概念
数据库中间件 Mycat 是数据库中间件就是介于数据库与应用之间进行数据处理与交互的中间服务。
逻辑库(schema)
通常对实际应用来说并不需要知道中间件的存在业务开发人员只需要知道数据库的概念所以 数据库中间件可以被看做是一个或多个数据库集群构成的逻辑库
逻辑表table
逻辑表可以是数据切分后分布在一个或多个分片库中也可以不做数据切分不分片只有一 个表构成。
分片表 分片表是指那些原有的很大数据的表需要切分到多个数据库的表这样每个分 片都有一部分数据所有分片构成了完整的数据。 例如在 mycat 配置中的 t_node 就属于分 片表数据按照规则被分到 dn1,dn2 两个分片节点(dataNode) 上。
非分片表
一个数据库中并不是所有的表都很大某些表是可以不用进行切分的非分片是相对分片表 来说的就是那些不需要进行数据切分的表。 如下配置中 t_node只存在于分片节点dataNodedn1 上。 分片节点(dataNode)
数据切分后一个大表被分到不同的分片数据库上面每个表分片所在的数据库就是分片节 dataNode 节点主机(dataHost) 数据切分后每个分片节点dataNode不一定都会独占一台机器同一机 器上面可以有多个分片数据库 这样一个或多个分片节点dataNode所在的机器就是节点主机 dataHost,为了规避单节点主机并发数限 制尽量将读写压力高的分片节点dataNode均 衡的放在不同的节点主机dataHost。
分片规则(rule)
一个大表被分成若干个分片表就需要一定的规则这样按照某种业务规则把数据分到 某个分片 的规则就是分片规则数据切分选择合适的分片规则非常重要将极大的避免后续数据处理的难 度。
全局序列号(sequence)
数据切分后原有的关系数据库中的主键约束在分布式条件下将无法使用因此需要引入外部机制 保证数据 唯一性标识这种保证全局性的数据唯一标识的机制就是全局序列号sequence。
安装与配置
基于源码 MyCAT-Server 源码下载 MyCAT-Server 仓库地址 源码调试与配置 MyCAT 目前主要通过配置文件的方式来定义逻辑库和相关配置 •MYCAT_HOME/conf/schema.xml 中定义逻辑库表、分片节点等内容. •MYCAT_HOME/conf/rule.xml 中定义分片规则. • MYCAT_HOME/conf/server.xml 中定义用户以及系统相关变量如端口等. 源码运行 MyCAT 入口程序是 org.opencloudb.MycatStartup.java 需要设置MYCAT_HOME 目 录为你工程当前所在目录(src/main) 设置完 MYCAT 主目录后即可正常运行 MyCAT 服务。 ](https://jq.qq.com/?_wv1027k0IsBuUb0) linux安装
下载
wget http://dl.mycat.io/1.6.7.3/20190927161129/Mycat-server-1.6.7.3-release-
20190927161129-linux.tar.gz
#解压进入mycat目录
#启动mycat
./bin/mycat start
#停止
./bin/mycat stop
#重启服务
./bin/mycat restart
#查看启动状态
./bin/mycat statusconf 目录下存放配置文件server.xml 是 Mycat 服务器参数调整和用户授权的配置文件schema.xml 是逻 辑库定义和表以及分片定义的配置文件rule.xml 是分片规则的配置文件分片规则的具体一些参数信息单独存 放为文件
4. MyCat配置
bin 启动目录conf 配置目录存放配置文件server.xml是Mycat服务器参数调整和用户授权的配置文件。schema.xml是逻辑库定义和表以及分片定义的配置文件。rule.xml 是分片规则的配置文件分片规则的具体一些参数信息单独存放为文件也在这个目录 下配置文件修改需要重启MyCAT。log4j.xml 日志存放在logs/log中每天一个文件日志的配置是在conf/log4j.xml中根据 自己的需要可以调整输出级别为debug debug级别下会输出更多的信 息方便排查问题。autopartition-long.txt,partition-hash-int.txt,sequence_conf.propertiessequence_db_conf.properties 分片相关的id分片规则配置文件lib MyCAT自身的jar包或依赖的jar包的存放目录。logs MyCAT日志的存放目录。日志存放在logs/log中每天一个文件
下面图片描述了Mycat最重要的3大配置文件
配置Mycat环境参数
?xml version1.0 encodingUTF-8 standaloneno?
!DOCTYPE mycat:server SYSTEM server.dtd
mycat:server xmlns:mycathttp://org.opencloudb/systemproperty namedefaultSqlParserdruidparser/property/system
/mycat:server如例子中配置的所有的Mycat参数变量都是配置在server.xml 文件中system标签下配置所有的参数如果需要配置某个变量添加相应的配置即可例如添加启动端口8066默认为8066
property nameserverPort8066/property其他所有变量类似。
配置Mycat逻辑库与用户
?xml version1.0 encodingUTF-8 standaloneno?
!DOCTYPE mycat:server SYSTEM server.dtd
mycat:server xmlns:mycathttp://org.opencloudb/
user namemycat
property namepasswordmycat/property
property nameschemasTESTDB/property
/user
/mycat:server如例子中配置的所有的Mycat连接的用户与逻辑库映射都是配置在server.xml 文件中user标签下配置所有的参数例如例子中配置了一个mycat用户供应用连接到mycat同时mycat 在schema.xml中配置后了一个逻辑库TESTDB配置好逻辑库与用户的映射关系。【参考文献】
配置逻辑库schema
Mycat作为一个中间件实现mysql协议那么对前端应用连接来说就是一个数据库也就有数据库的配置mycat的数据库配置是在schema.xml中配置配置好后映射到server.xml里面的用户就可以了。
?xml version1.0 encodingUTF-8?
!DOCTYPE mycat:schema SYSTEM schema.dtd
mycat:schema xmlns:mycathttp://org.opencloudb/schema nameTESTDB checkSQLschematrue sqlMaxLimit100 dataNodedn1table namet_user dataNodedn1,dn2 rulesharding-by-mod2/table nameht_jy_login_log primaryKeyID dataNodedn1,dn2
rulesharding-by-date_jylog//schemadataNode namedn1 dataHostlocalhost1 databasemycat_node1/dataNode namedn2 dataHostlocalhost1 databasemycat_node2/dataHost namelocalhost1 writeType0 switchType1 slaveThreshold100
balance1 dbTypemysql maxCon10 minCon1 dbDrivernativeheartbeatshow status like wsrep%/heartbeatwriteHost hosthostM1 url127.0.0.1:3306 userroot passwordroot /writeHost /dataHost
/mycat:schema 上面例子配置了一个逻辑库TESTDB同时配置了t_userht_jy_login_log两个分片表。
逻辑表配置
table namet_user dataNodedn1,dn2 rulesharding-by-mod2/table 标签 是逻辑表的配置 其中 name代表表名 dataNode代表表对应的分片 Mycat默认采用分库方式也就是一个表映射到不同的库上 rule代表表要采用的数据切分方式名称对应到rule.xml中的对应配置如果要分片必须配置。
配置分片dataNode
dataNode namedn1 dataHostlocalhost1 databasemycat_node1/dataNode namedn2 dataHostlocalhost1 databasemycat_node2/表切分后需要配置映射到哪几个数据库中Mycat的分片实际上就是库的别名例如上面例子配置了两个分片dn1dn2 分别对应到物理机映射dataHost localhost1 的两个库上。
配置物理库分片映射dataHost
dataHost namelocalhost1 writeType0 switchType1 slaveThreshold100
balance1 dbTypemysql maxCon10 minCon1 dbDrivernativeheartbeatshow status like wsrep%/heartbeatwriteHost hosthostM1 url127.0.0.1:3306 userroot passwordroot /writeHost /dataHostMycat作为数据库代理需要逻辑库逻辑用户表切分后需要配置分片分片也就需要映射到真实的物理主机上至于是映射到一台还是一台的多个实例上Mycat并不关心只需要配置好映射即可例如例子中 配置了一个名为localhost1的物理主机dataHost映射。
heartbeat 标签代表Mycat需要对物理库心跳检测的语句正常情况下生产案例可能配置主从或者多写 或者单库无论哪种情况Mycat都需要维持到数据库的数据源连接因此需要定时检查后端连接可以性心跳语句就是来作为心跳检测。
writeHost 此标签代表 一个逻辑主机dataHost对应的后端的物理主机映射例如例子中写库hostM1 映射到127.0.0.1:3306。如果后端需要做读写分离或者多写 或者主从则通过配置 多个writeHost 或者readHost即可。
dataHost 标签中的 writeType balance 等标签则是不同的策略具体参考指南。
表切分规则配置
?xml version1.0 encodingUTF-8?
!DOCTYPE mycat:rule SYSTEM rule.dtd
mycat:rule xmlns:mycathttp://org.opencloudb/tableRule namesharding-by-hourrulecolumnscreateTime/columnsalgorithmsharding-by-hour/algorithm/rule/tableRulefunction namesharding-by-hour
classorg.opencloudb.route.function.LatestMonthPartionproperty namesplitOneDay24/property/function
/mycat:rule 数据切分中作为表切分规则中最重要的配置表的切分方式决定了数据切分后的性能好坏因此也是最重要的配置。
如上面例子配置了一个切分规则名为sharding-by-hour 对应的切分方式function 是按日期切 分该配置中
tableRule
name 为schema.xml 中table 标签中对应的 rule“sharding-by-hour” ,也就是配置表的分片规则columns 是表的切分字段 createTime 创建日期。algorithm 是规则对应的切分规则映射到function 的name。
function
function 配置是分片规则的配置。
name 为切分规则的名称名字任意取但是需要与tableRule 中匹配。
class 是切分规则对应的切分类写死需要哪种规则则配置哪种例如本例子是按小时分片org.opencloudb.route.function.LatestMonthPartion
property 标签是切分规则对应的不同属性不同的切分规则配置不同。【参考文献】
5.Mycat读写分离实战
Mysql同步原理 Mysql同步方案 docker配置
# masterdocker run --name mysql_master -v /root/mysql-cluster/master/:/etc/mysql/conf.d/
-e MYSQL_ROOT_PASSWORDroot -p 3316:3306 -d mysql:5.7
# slave1
docker run --name mysql_slave1 -v /root/mysql-cluster/slave1/:/etc/mysql/conf.d/
-e MYSQL_ROOT_PASSWORDroot -p 3326:3306 -d mysql:5.7
# slave2
docker run --name mysql_slave2 -v /root/mysql-cluster/slave2/:/etc/mysql/conf.d/
-e MYSQL_ROOT_PASSWORDroot -p 3336:3306 -d mysql:5.7读写分离配置 配置 mysql 端主从的数据自动同步mycat 不负责任何的数据同步问题 配置schema.xml
dataHost namelocalhost1 maxCon1000 minCon10 balance1
writeType0 dbTypemysql dbDrivernative
heartbeatshow slave status/heartbeat
!-- can have multi write hosts --
writeHost hosthostM1 urllocalhost:3306 userroot password123456
!-- can have multi read hosts --
readHost hosthostS1 urllocalhost2:3306 userroot password123456
weight1 /
/writeHost
/dataHost强制走从
/*!mycat:db_typeslave*/ select * from travelrecord
强制走写
/*!mycat:db_typemaster*/ select * from travelrecord6.Mycat 全局序列号
本地文件方式 配置schema.xml
table nametravelrecord dataNodedn1 autoIncrementtrue
primaryKeyid /编辑 server.xml
修改主键生成策略
property namesequnceHandlerType0/property编辑sequence_conf.properties
#TRAVELRECORD 是表名称
#HISIDS 表示历史分段一般无特殊需要则可以不配置
#MINID 最小id
#MAXID 最大id
#CURID 当前id
TRAVELRECORD.HISIDS
TRAVELRECORD.MINID10001
TRAVELRECORD.MAXID20000
TRAVELRECORD.CURID10000本地时间戳方式 ID 64 位二进制 (42(毫秒)5(机器 ID)5(业务编码)12(重复累加) 配置schema.xml 配置server.xml
property namesequnceHandlerType2/property在 mycat 下配置sequence_time_conf.properties
WORKID0-31 #任意整数
DATAACENTERID0-31 #任意整数多个个 mycat 节点下每个 mycat 配置的 WORKIDDATAACENTERID 不同组成唯一标识总共支持32*321024 种组合。
多个个 mycat 节点下每个 mycat 配置的 WORKIDDATAACENTERID 不同组成唯一标识总共支持32*321024 种组合。
最后祝大家早日学有所成拿到满意offer
